Japanci su shvatili da je AI prijetnja tek kad je počeo čitati njihove knjige računovodstva

Dvije stvari koje su Japancima svete: ceremonija čaja i knjige računovodstva. Prvu su usavršili kroz stoljeća, drugu kroz decenije poslovnog čuda koje je završilo s dvije izgubljene decenije. Sada, ministrica financija poziva šefove najvećih banaka na hitni sastanak. Razlog? Najnoviji AI model Mythos tvrtke Anthropic. Ne zato što bi mogao izazvati egzistencijalni rizik za čovječanstvo, već zato što bi mogao pročitati i protumačiti financijske izvještaje, regulatorne dokumente i zakonske klauzule brže od čovjeka koji je za to školovan trideset godina. To je prijetnja koju državni aparat ne može ignorirati. Kada algoritam počne razumijevati pravila igre bolje od igrača, igra je gotova.

Ovo nije strah od singulariteta. Ovo je strah od revizije. Zamislite sustav koji u sekundi može usporediti stotine tisuća ugovora o kreditima, prepoznati skrivene klauzule, pronaći nedosljednosti u bilancama velikih konglomerata i predvidjeti rizik od neplaćanja s točnošću koja čini ljudske analitičare reliktom prošlog stoljeća. Za banku, to je san o učinkovitosti. Za regulatora, to je noćna mora od koje se ne može probuditi. Jer što radi regulator kada alat koji treba nadzirati postane toliko sofisticiran da ga nitko u uredima više ne razumije? Poziva na sastanak. Naravno.

Cijela priča o umjetnoj inteligenciji u financijama je jedna velika lekcija o tome kako se strahovi mijenjaju s razinom razumijevanja. Prvo su se bojali da će im botovi ukrasti podatke. Zatim su se bojali da će im algoritmi zamijeniti trgovce na burzi. Sad se boje nečeg puno goreg: da će im algoritam reći istinu. Istinu o lošim investicijama, o prenapuhanim bilančnim sumama, o sustavnim rizicima koji su bili zakopani u toliko slojeva financijske alkemije da ih nitko nije smio dirati. Mythos, ili bilo koji sličan model, nije samo alat. On je ogledalo. A nitko tko je dugo godina gradio karijeru na kompleksnosti i neprozimosti ne želi gledati u takvo ogledalo.

Postoji apsurdna ljepota u tome što Japan, zemlja robota i visokih tehnologija, sada drhti pred softverom. To je zemlja gdje bankarski službenik može imati posao doživotno, gdje je odnos između banaka, države i keiretsua mreža nevidljivih, ali čvrstih konvencija. U toj mreži, informacija teče određenim kanalima, odluke se donose određenim ritmom, a promjena je poput geološkog procesa. Unesite entitet koji ne poštuje te kanale, koji ne razumije taj ritam, koji promjenu može izvršiti u milisekundama — i imate potpuni kolaps establišmenta. To nije tehnološki izazov. To je kulturološki potres.

Ono što se događa u Tokiju je samo prvi tremor. Što mislite da će se dogoditi kada slični alati budu u potpunosti integrirani u Europsku središnju banku, u američki SEC, u našu HANFA-u? Regulatorna tijela diljem svijeta funkcioniraju na principu kašnjenja. Analiziraju podatke koji su već stari mjesecima, donose odluke na temelju jučerašnjih problema, pišu pravila za tehnologiju od prije pet godina. AI će taj jaz pretvoriti u ponor. Kada regulator može u stvarnom vremenu analizirati svaku transakciju, svaki ugovor, svaki izvještaj svake kompanije pod svojim nadzorom, koncept "regulacije" se mijenja iz pasivnog nadzora u aktivno, stalno uplitanje. To je ili raj za transparentnost, ili pakao za bilo kakav oblik financijske slobode. Ovisi tko drži kontrolu.

A tko drži kontrolu? Evo naivnog pitanja u stilu Cunk: ako je AI toliko dobar u prepoznavanju financijskih prijevara, zašto ga ne koriste baš one institucije koje su najčešće upletene u financijske prijevare? Odgovor je jednostavan: jer nije napravljen za to. On je napravljen da optimizira profit, da smanji rizik za one koji ga plaćaju, da otkrije nedostatke u poslovanju drugih. Nije napravljen da postavlja neugodna pitanja o vlastitim poslovnim modelima svojih kreatora ili njihovih klijenata. Mythos je proizvod Anthropica, a Anthropic je, kao i svi drugi veliki AI igrači, kompanija koja živi od kapitala, ugleda i pristupa. Njeni alati neće "pobuniti se" protiv sustava. Oni će ga učiniti još učinkovitijim, još neprobojnijim, još manje podložnim ljudskoj pogrešci — i time još moćnijim.

Dijagnoza, po Houseu, je jasna: pacijent (globalni financijski sustav) pati od kronične hipokrizije uz akutne napade panike. Simptomi uključuju pozivanje na hitne sastanke čim neki eksterni alat prijeti da će otkriti pravo stanje stvari. Liječenje bi zahtijevalo radikalnu transparentnost i prepustanje odlučivanja objektivnim algoritmima. Međutim, prognoza je loša, jer pacijent odbija lijek i umjesto toga nastavlja uzimati placebo u obliku panel diskusija i radnih skupina.

Što se tiče našeg dvorišta, zamislite samo da netko pokrene "Mythos za javnu nabavu". Model koji u sekundi analizira sve natječaje Hrvatskih cesta, Hrvatskih šuma, svakog gradskog poduzeća u Rijeci ili Zagrebu, pronalazeći sve anomalije, sve sumnjive dodjele, sve previsoke cijene. Bio bi to najkorisniji alat za građane ikada napravljen. I bio bi zakopan i obezvrijeđen prije nego što bi završio prvu iteraciju. Jer istina je kao sunce: svi je vole dok ne osvijetli njihovu hrđavu ogradu.

Japanci su pametni. Oni ne pozivaju bankare da razgovaraju o filozofiji AI-a ili o etičkim načelima. Oni ih pozivaju da razgovaraju o prijetnji. O prijetnji za postojeći poredak, za moć, za način na koji su stvari uvijek radile. To je jedini jezik koji establišment razumije. Ne trebamo se pitati hoće li AI preuzeti svijet. Trebamo se pitati hoće li svijet dopustiti AI-u da kaže istinu. Na temelju ovog sastanka, odgovor je jasan: ne bez borbe.

Budućnost nije asistent koji nam piše e-mailove. Budućnost je revizor koji ne spava.

Izvor: bloomberg.com