AI rizik u firmi: nitko ne zna ko je kriv, a svi bi ga htjeli voditi

Devedeset sedam posto direktora kaže da njihova firma ima strategiju za umjetnu inteligenciju. Sedamdeset posto njih ne zna ko je odgovoran kad ta ista umjetna inteligencija zajebe stvar. To nije strategija, to je grupni selfie pred zgradom koja gori.

PwC je pitao business i tech lidere ko upravlja AI rizikom na radnom mjestu. Business kaže: tech. Tech kaže: business. Nitko ne kaže: ja. To je onaj trenutak na sastanku kad se svi gledaju kao da su upravo shvatili da je netko drugi trebao donijeti odluku, a taj netko drugi je upravo izašao na kavu i neće se vratiti do ponedjeljka.

Kužiš u čemu je fora? AI je jedina tehnologija u povijesti za koju su i oni koji je grade i oni koji je kupuju istovremeno uvjereni da je netko treći dužan razumjeti što ona radi. Cloud je imao AWS. Internet je imao Cisco i Microsoft. Mobitel je imao operatere. AI nema nikoga. AI ima hype, ima powerpoint, ima konferencije na kojima se ljudi u preuskim košuljama tuku po prsima kako su "AI-first", a onda kući dođu i pitaju ChatGPT da im napiše email jer sami ne znaju sročiti tri rečenice bez da zvuče kao da su pijani.

I sad bi ti, dragi korporativni čitatelju, trebao nekoga imenovati. Chief AI Officer. Zvuči važno. Zvuči kao titula koju možeš staviti na LinkedIn i dobiti 40 novih veza u tjedan dana. Ali što taj čovjek, koji kurac, zapravo radi? Sjedi na sastancima, sluša ljude iz prodaje kako pričaju da bi "trebali iskoristiti sinergije AI-a", i onda napiše dokument od 30 stranica koji nitko neće pročitati jer je predugačak, a onaj koji bi ga trebao pročitati je na godišnjem odmoru na Maldivima i ne odgovara na mailove.

PwC anketa pokazuje dvije stvari koje bi trebale biti očite svakome ko je proveo više od tri dana u ozbiljnoj firmi. Prvo: business lideri misle da je AI tech problem. Drugo: tech lideri misle da je AI business problem. Oboje su u pravu i oboje su u kurcu, jer problem je što nitko od njih ne želi potpisati papir na kojem piše "ja sam odgovoran ako ovo zajebe i firma izgubi 200 milijuna eura zbog halucinacije modela koji je netko fino ugradio u korisničku podršku".

Sjeti se kad je GDPR stupio na snagu. Svi su se isto tako gledali. Ko je odgovoran za zaštitu podataka? Nitko nije znao. Onda su firme počele zapošljavati Data Protection Officere — ljude čija je jedina funkcija bila da potpišu dokument koji nitko ne čita i da u slučaju sranja budu prvi na listi za otkaz. Isti obrazac. Samo je sada AI umjesto "osobnih podataka", a umjesto "GDPR compliance" imamo "AI governance framework" koji je netko negdje kopirao s bloga konzultantske kuće i preimenovao u svoj.

I onda dolazi pitanje: treba li nam Chief AI Officer? Kratki odgovor: ne. Dugi odgovor: jebeno ne. Ne zato što AI nije važan. Zato što je uvođenje nove C-level titule najstariji trik u korporativnoj povijesti da se odgodi donošenje odluke. Umjesto da direktor proizvoda kaže "ne, nećemo staviti chatbot u korisničku podršku dok ne testiramo što radi kad ga pitaš nešto izvan skripte", firma zaposli Chief AI Officera. I onda taj čovjek provede prvih šest mjeseci na "écoute touru", slušajući ljude, pišući strategiju, i na kraju predstavi deck od 47 slajdova koji sadrži RACI matricu u kojoj piše da je "odgovornost podijeljena".

Podijeljena odgovornost je korporativni eufemizam za "nitko". Kao kad dijete razbije vazu, a mama pita ko je, i svi kažu "pa, ne znam, možda je mačka". Nema mačke. Nikad nije bilo mačke. Ali mačka je zgodna jer mačka ne može dobiti otkaz.

I sad ono što je zapravo smiješno u cijeloj priči, i to onako crno smiješno, kao kad gledaš čovjeka da se spotakne na ravnom: firme koje najviše pričaju o AI governance su one koje su AI uvele najbrže, najneopreznije, i s najmanje razumijevanja što to čudo zapravo radi. To je kao da kupiš Formulu 1, staviš je u garažu, i onda osnuješ odbor za sigurnost vožnje koji se sastaje jednom mjesečno da razgovara o brzini. Auto stoji. Odbor radi. Nitko ne vozi.

Tech lideri, s druge strane, imaju svoju verziju iste bolesti. Oni misle da je business taj koji mora definirati rizik, jer "mi smo samo inženjeri, mi gradimo". To je kao da arhitekt kaže "ja sam nacrtao zgradu, ali ako se sruši, to je problem investitora jer nije dobro definirao zahtjeve". Ne, prijatelju. Ako si nacrtao zgradu bez nosivih zidova, ti si kriv. Točka.

Ono što PwC anketa ne kaže, ali svatko ko je radio u IT-u zna, je da je pitanje "ko je odgovoran" pogrešno postavljeno. Pravo pitanje je "ko je vlasnik". Vlasnik nije isto što i odgovoran. Vlasnik je onaj koji je u sobi kad se donosi odluka, koji ima budžet, koji može reći ne, i koji će biti tu i za godinu dana kad sve ode u kurac. Odgovornost je ono što dobiješ nakon što sranje eksplodira. Vlasništvo je ono što imaš prije nego što uopće kreneš.

A vlasništvo nad AI rizikom u većini firmi danas izgleda kao onaj stan koji su naslijedila četiri brata i sestra, a nitko ne želi platiti renovaciju. Svi imaju pravo glasa. Nitko nema obavezu. I onda stan propada, a rođaci se svađaju na WhatsAppu.

Rješenje nije nova titula. Rješenje je stara, dosadna, ne-sexy stvar koju nitko ne želi čuti: AI rizik mora biti u vlasništvu nekoga ko već ima moć da zaustavi proizvodnju. To je najčešće COO, ili CTO, ili — pazi sad — CEO. Da. Onaj koji potpisuje čekove. Onaj koji daje izjave za medije kad firma zabrlja. Onaj koji je ionako odgovoran za sve ostalo.

Ali to je nezgodno, jer onda CEO mora razumjeti što model radi. A CEO ne razumije. CEO razumije EBITDA, pipeline i board meeting. CEO razumije da ako kaže "ne znam što je transformer", dionica padne dva posto. Pa CEO šuti, klima glavom na prezentacijama, i nada se da će netko drugi to riješiti.

I tako dolazimo do stvarne dijagnoze. Firma ima AI u produkciji. Ima governance dokument koji je napisao netko ko nikad nije deployao model. Ima Chief AI Officera koji je zaposlen prije šest mjeseci i još uvijek piše strategiju. Ima business lidere koji misle da je to tech problem. Ima tech lidere koji misle da je to business problem. Ima odbor koji misli da je to pitanje za sljedeći kvartal. A u međuvremenu, model halucinira, korisnik se žali, novinari zovu, i onda se svi odjednom sjećaju da su "uvijek govorili da treba biti oprezan".

Nitko nije. Nitko nikad nije. To je kao kad netko kaže "ja sam uvijek bio za transparentnost" — a nikad nije objavio ni jedan dokument.

PwC je napravio anketu. Anketa je pokazala ono što je svakome u industriji bilo jasno još prije dvije godine: AI je ušao u firme brže od bilo koje tehnologije u povijesti, a pitanje odgovornosti je ostalo na razini "pa, vidjet ćemo". To nije strategija. To je oklada. I to oklada u kojoj nitko ne zna koliki je ulog, ko drži karte, i ko je, koji kurac, uopće diler.

Ako firma ne može imenovati jednu osobu koja je vlasnik AI rizika, onda firma nema AI strategiju. Ima AI entuzijazam. A entuzijazam je besplatan, dok odgovornost ima cijenu. I zato je nitko ne želi.

Budućnost je stigla. Donijela je račun. I pitanje "kome" — jer na to pitanje još nitko nije odgovorio.

Izvor: zdnet.com