AI agenti i problem dopuštenja: zašto enterprise staje tamo gdje je trebalo krenuti

Pedeset milijardi dolara je otprilike iznos koji su kompanije uložile u AI agente da bi otkrile ono što je svaki IT administrator znao još 1995. — nije problem napraviti softver koji nešto želi, problem je odlučiti čemu smije pristupiti. Enterprise AI agenti su danas kao klinac s ključevima od očeve banke: može ući, ali ne zna što smije dirati, i svi se mole da ne pritisne crveni gumb. Izbacili su modele koji pišu poeziju, rješavaju diferencijalne jednadžbe i lažu uvjerljivije od većine političara, a onda su shvatili da njihov pametni asistent ne može pročitati PDF jer mu netko nije dao dopuštenje. Koji kurac.

Problem nije u performansama modela. Modeli su jebeno dobri. GPT-4, Claude, Gemini — svi oni mogu napisati ugovor, analizirati bilancu i simulirati scenarij brže od bilo kojeg čovjeka. Ali kad trebaju stvarno nešto napraviti — otvoriti datoteku, poslati mail, ažurirati CRM, povući podatak iz SAP-a — tu nastaje problem. Zato što enterprise nije chat. Enterprise je labirint od 47 sustava, svaki s vlastitim modelom autentikacije, logikom autorizacije i poviješću od 20 godina zakrpa koje nitko ne razumije. I u taj labirint ti sad ubacuješ agenta koji treba donositi odluke. Bez mape. Bez ključeva. Bez ikakvog razumijevanja tko je vlasnik čega.

Rješenje koje se nameće je jednostavno do bola: napraviti postojeći sustav zapisa — onaj u kojem već vodiš račune, zaposlenike, procese — glavnim slojem upravljanja za agente. Umjesto da agent sam odlučuje čemu smije pristupiti, sustav mu kaže: ti smiješ vidjeti ovo, ali ne i ono, i to samo između 9 i 17, i samo za korisnika koji je to zatražio, i samo ako je prošao compliance check. Zvuči logično, zar ne? Zvuči kao nešto što bi svaka pametna kompanija napravila. I upravo zato enterprise svijet tone u kaos — jer logika i enterprise rijetko idu ruku pod ruku.

Pokušaj da se agentima da moć bez granica podsjeća na one projekte iz 2010-ih kad su startupi otkrili "agilni razvoj" pa su tjedan dana deployali na produkciju bez testiranja jer "brzina je važnija od stabilnosti". Završilo je tako da su banke imale aplikacije koje su padale svaki petak u 16:30 jer je netko deployao novu feature bez da je provjerio dependency. Isto se događa s agentima danas. Samo što sad pad nije web shop — sad pad znači da agent odluči da je tvojih 500 gigabajta osjetljivih podataka "zanemarivo važno" i pošalje ih na vanjski server jer mu je netko zaboravio reći da ne smije.

A tu dolazimo do najljepšeg dijela: kompanije koje prodaju AI agente tvrde da je problem riješen. Naravno da tvrde. Prodaju maglu od 2022. i sad su došli do trenutka kad moraju isporučiti. I što isporučuju? Još jedan sloj apstrakcije. Još jedan "orchestration layer". Još jedan alat koji će, ako ga pitaš tko je vlasnik podatka, odgovoriti: "Pitaj agenta." A agent će reći: "Pitaj sustav." A sustav će reći: "Nisam za to dizajniran." I tako u krug, dok netko ne digne ruke i ne kaže: "Dajte, vratimo se na staro, barem znamo tko je kriv kad nešto pukne."

Ako je AI agent toliko pametan, zašto mu treba 47 različitih sustava dopuštenja da bi otvorio jedan PDF? Zašto ne može sam zaključiti da podaci o plaćama nisu za javnu objavu, čak i ako mu to nitko eksplicitno nije rekao? Zato što nije pametan. Pametan je u onom smislu u kojem je kalkulator pametan — zna izračunati, ali nema pojma što brojevi znače. I to je u redu. Problem nije u agentu. Problem je u ljudima koji misle da agent može zamijeniti razumijevanje konteksta. Može zamijeniti proces. Može zamijeniti rad. Ali ne može zamijeniti prosudbu. A prosudba je jedino što u enterpriseu vrijedi.

Dok god kompanije budu tretirale AI agente kao čarobne pomoćnike koji će riješiti sve probleme bez da ih itko pita za dopuštenje, dotle će se vrtjeti u krug. Agenti ne trebaju više moći. Trebaju više granica. Trebaju sustav koji im kaže: "Ovdje smiješ, ovdje ne smiješ, i ako prekršiš, gasimo te." I trebaju ljude koji su spremni postaviti te granice. A to je, naravno, najteži dio. Jer postavljanje granica zahtijeva odluke. A odluke zahtijevaju odgovornost. A odgovornost je nešto što enterprise svijet izbjegava kao kugu.

Jedina konstanta u tech industriji je sposobnost ljudi da budu iznenađeni očekivanim.

Izvor: venturebeat.com