Deset gotovih AI agenata za banke

Deset unaprijed spakiranih AI agenata za financijski sektor. Nije loše za firmu koja je prije dvije godine prodavala etičku superiornost koja je mirisala na svježe opranu odjeću — čistu, svježu, s malo previše omekšivača. Sad prodaju alate koji će investicijskim bankama uštedjeti na analitičarima, a regulatorima dati iluziju da netko stvarno čita one izvještaje od tristo stranica.

Nije drago. Nije slučajno. Nije greška.

Pogodi što se događa kad firma koja je gradila brend na tome da će AI biti siguran, etičan i usklađen s ljudskim vrijednostima izbaci deset predložaka za Wall Street? Događa se ono što se uvijek dogodi: etika je skupa dok ne postaneš dovoljno velik da si je ne možeš priuštiti. Jer etika, vidiš, košta. A kad ti konkurencija diše za vratom i kad ti investitori šalju poruke s pitanjem "gdje je ROI, jebote", etika postane luksuz koji se seli s vrha prioritetne liste na dno, odmah pored onog projekta za dobrobit čovječanstva koji si obećao u pitch decku.

Ono što je zanimljivo nije sam proizvod. Deset predložaka za istraživanje, rizik i compliance je očekivano — financijski sektor ima najviše novca i najviše papira, i svaki startup s modelom koji može čitati PDF-ove brže od čovjeka cilja upravo te ljude. Ono što je zanimljivo je tajming. Jer obje firme, i ova i ona druga s logom koji izgleda kao da ga je dizajnirao umjetnik koji mrzi sebe, spremaju se za IPO. I ne treba ti doktorat iz ekonomije da shvatiš što to znači.

IPO znači da moraš pokazati prihod. Ne potencijal, ne viziju, ne "revolucionirat ćemo industriju". Prihod. Sada. Ovaj kvartal. I odjednom deset predložaka za banke izgleda puno privlačnije nego etički okvir za koji ti nitko ne želi platiti.

To je onaj trenutak kad shvatiš da je cijela priča o sigurnom AI-ju bila isto što i dijeta u siječnju — dobra namjera koja traje dok ne dođe pravo iskušenje. A pravo iskušenje je uvijek taj kurac: novac. Wall Street ima novac. Wall Street ima problema s complianceom koji koštaju milijarde. Wall Street će platiti za alat koji mu smanji rizik i poveća brzinu, i neće pitati je li taj alat trenirao na podatcima koje je pokupio bez pitanja.

Ako si mislio da će AI industrija biti drugačija od svake druge industrije koja je ikad dotaknula veliki novac, imam most za prodati. taj je cirkus, samo su klaunovi mlađi i nose majice s printom koji ironično komentira kapitalizam dok potpisuju ugovore s bankama koje su srušile svjetsko gospodarstvo 2008.

Deset agenata. Za istraživanje, za rizik, za compliance. Zvuči korisno. Zvuči efikasno. Zvuči kao da će netko izgubiti posao, ali to je ionako bio dosadan posao, zar ne? Tko želi čitati izvještaje o kreditnom riziku kad to može algoritam? Tko želi provjeravati usklađenost s regulativom kad to može model?

Osim što algoritam ne zna što ne zna. Model ne zna kad treba reći "čekaj malo, ovo smrdi". Model ne zna da je onaj izvještaj napisan tako da izbjegne odgovornost, ne da informira. Model čita riječi, ne čita namjeru. I to je u redu dok se ne dogodi ono što se uvijek dogodi — netko stisne "deploy" na petak poslijepodne, i u ponedjeljak ujutro tržište reagira na nešto što je model protumačio kao signal, a bio je samo tipfeler u Excelu.

Ali to nije problem firme koja prodaje alat. Problem je firme koja ga koristi. I to je najljepši dio cijele priče: odgovornost je uvijek na korisniku. Proizvođač oružja ne odgovara za pucnjavu. Proizvođač AI-ja ne odgovara za odluke koje donese na temelju njegovih outputa. Pametno, jebote. Pametno kao kad bi prodavač automobila rekao "auto vozi odlično, a što ćeš ti napraviti s njim nije moj problem".

I sve to dok obje firme šminkaju bilancu za IPO. Deset agenata ovdje, novi model tamo, partnerstvo s bankom koja ima ime od tri slova. Sve je to dobro za priču. Sve je to dobro za prihod. Sve je to dobro dok netko ne postavi pitanje koje nitko ne želi čuti: "A što kad ovo zajebe?"

Jer hoće. Zajebat će. Ne zato što je loš AI, nego zato što je ljudska priroda da stisne gumb i vjeruje da će sve biti u redu, pogotovo kad joj netko kaže da je gumb testiran na milijun primjera i da je sigurnost na prvom mjestu. A sigurnost je na prvom mjestu dok ne postane prepreka rastu. Onda je na desetom. Ili na stranici 47 uvjeta korištenja koje nitko ne čita.

Deset agenata za financijski sektor. Za istraživanje, rizik i compliance. Iza svakog od njih stoji model koji ne razumije kontekst, ne razumije ironiju, ne razumije da ponekad pravilo treba prekršiti jer je pravilo glupo. Ali to je u redu — banke ionako ne vole ljude koji krše pravila. Banke vole ljude koji slijede procedure i ne postavljaju pitanja. A AI ne postavlja pitanja. AI radi ono što mu se kaže. Savršen zaposlenik.

Jedino što AI ne radi je preuzimanje odgovornosti. Kad stvar pukne, odgovoran je čovjek koji je stisnuo gumb. A čovjek će reći "pa rekao mi je AI da je to dobra odluka". I tako se odgovornost vrti u krug dok ne dođeš do nekog juniora koji je potpisao NDA i ne smije pričati s novinarima.

To je budućnost koju prodaju. Ne pametniji alati. Bolji alati za prebacivanje odgovornosti. Alati koji će ti reći što da radiš, a kad pogriješe, ti ćeš biti kriv jer si ih krivo pitao. Ili krivo protumačio. Ili nisi pročitao disclaimer na dnu ekrana koji trepće 0.3 sekunde.

Deset agenata. Za banke. Za IPO. Za priču. I sve je to jebeno smiješno dok ne shvatiš da će tvoja mirovina ovisiti o odlukama koje je donio model koji je treniran na podatcima iz prošlosti i ne zna da se svijet promijenio dok je on učio.

Ali hej, barem je etički. Dok ne postane skupo.

Izvor: the-decoder.com