Anthropic prodaje AI financijskim savjetnicima koji po zakonu ne smiju davati savjete

Anthropic je lansirao Claude za financijske savjetnike, uštekao ga u portfelje BlackRocka, Vanguarda, Charlesa Schwaba i iCapitala, i onda mirno priopćio da neće davati investicijske savjete. Pročitao sam tu rečenicu tri puta. Nisam siguran je li to pravni štit ili performans.

Jer pogledajmo što se tu točno prodaje. Alat koji sjedi na vrhu tuđih podataka o tuđem novcu, koji zna sve o klijentovoj imovini, sklonosti riziku, godinama do mirovine, i koji je — po vlastitom priopćenju — potpuno nesposoban za ono što bi jedan savjetnik trebao raditi. To nije skromnost. To je poslovni model.

U Europi se priča dodatno zamrsi jer MiFID II ne pita je li AI rekao "ovo je savjet". Pita je li ga klijent tako shvatio. Test ima pet dijelova, a sukladnost se može podrazumijevati, ne izgovoriti. Drugim riječima: ako tvoj chatbot zvuči kao savjet, izgleda kao savjet i klijent ga tako primi — jebeno jest savjet, bio ti toga svjestan ili ne. ESMA je to firmama već rekla. Firma je to pročitala. Firma je ipak izbacila proizvod.

Kužiš logiku? Napraviš alat koji radi devet desetina posla savjetnika, staviš ga u njegov ured, na njegove podatke, na njegove klijente — i onda na dnu zaslona napišeš da ne daje savjete. Kao da u kuhinji objesiš znak "ova kuhinja ne kuha". Nije problem što se kuha. Problem je što nitko ne želi biti taj koji je rekao da se kuha.

Ovo nije tehnički problem. Ovo je knjigovodstveni problem prerušen u etički.

Anthropic, kao i svaki drugi lab, sjedi na hrpi novca koju mora opravdati. Vrednovanje se ne drži na dobroj volji, nego na priči o primjeni. Enterprise priča je iscrpljena — svaka firma je probala Copilot, pola ih je odustalo, druga polovica ga plaća a nitko ga ne koristi. Ostaju regulirane vertikale. Medicina, pravo, financije. Tamo je novac debeo, tamo su klijenti zarobljeni, tamo se pretplata ne otkazuje jer je zamjena skupa i bolna.

Financijsko savjetovanje je savršena meta. Milijuni savjetnika, svaki s licencom, svaki s obveznom dokumentacijom, svaki s klijentom koji plaća postotak. Ubaci alat u taj tok i naplaćuješ po sjedalu. Ali uđi u reguliranu vertikalu bez da preuzmeš odgovornost, jer odgovornost je ono što pojede maržu.

Zato ono "ne dajemo savjete" nije pravna sitnica. To je cijela poanta. Alat radi, odgovornost ostaje na čovjeku, a čovjek je ionako već tu i ionako već potpisuje papire. Ti si samo prodao softver. Savjetnik je taj koji je pogriješio. Savjetnik je taj kojeg tuže. Savjetnik je taj koji ostaje bez licence ako se pokaže da je klijentu preporučio koncentriranu poziciju u nečemu što je propalo.

A što ako savjetnik ne razumije što mu je alat rekao? Ne razumije. Nitko ne razumije. To je dio dogovora. Model generira tekst koji zvuči kompetentno, savjetnik ga prenese klijentu jer zvuči kompetentno, klijent postupi po njemu jer mu je savjetnik rekao. Lanac odgovornosti ima četiri karike i sve četiri pokazuju prstom na onu iznad. Na kraju stoji klijent. Kao i uvijek.

Postoji stara boljka u IT-u koju dobro poznajem iz vremena kad se gradila infrastruktura: kad nešto ne radi, prvo pitaš je li problem u kabelu. Ovdje je problem u kabelu. Kabel ide od modela do klijentova novca, a nitko u lancu nije htio biti taj koji ga je fizički spojio. Svi su htjeli naplaćivati struju.

I sad ono što me stvarno zanima, a što nitko u priopćenju ne spominje. Ako alat ne daje savjete, što daje? Daje "analizu". Daje "uvid". Daje "sažetak portfelja". Daje "prijedlog za razmatranje". Rječnik je pažljivo izrezan tako da ništa ne bude preporuka, a sve izgleda kao da jest. To je ista lingvistička gimnastika koju wellness industrija koristi kad prodaje kapi koje "podržavaju imunološki sustav" — ne tvrde da liječe, samo sugeriraju da bi mogle pomoći, a kupac ionako kupuje nadu, ne kemiju.

Razlika je u tome što wellness kupac izgubi sto eura na kapi. Financijski klijent može izgubiti mirovinu.

Postoji i dimenzija koju će regulatori tek otkriti, i to prekasno. MiFID test sukladnosti ima pet dijelova i jedan od njih je namjera — je li savjet bio prikladan za tog klijenta s obzirom na njegove ciljeve i okolnosti. Kad odgovornost prebaciš na model, pitanje namjere postaje pitanje prompta. A prompt nitko nije arhivirao, model se u međuvremenu ažurirao, a verzija koja je dala odgovor više ne postoji. Sretno u dokazivanju da je preporuka bila prikladna kad je alat koji ju je sastavio već tri puta nadograđen i jednom tiho ugašen.

To je forenzički noćni teror. Alat koji daje savjet, ali nije odgovoran za savjet, i koji se mijenja brže nego što revizor stigne otvoriti log.

I onda se pitamo zašto pola investicijskih bankara, njih petsto, sjedi u sobi i zaključuje da nijedan AI izlaz nije spreman za klijente. Nije to zato što modeli ne znaju. Znaju. Problem je što nitko ne želi potpisati ispod njihova znanja. Jer potpis je jedina stvar koju model ne može generirati.

Anthropic je napravio pametan poslovni potez. Ulovio je vertikalu s debelim novcem, ugradio se u infrastrukturu koju je teško zamijeniti, i unaprijed se ogradio od jedine stvari koja bi ga mogla koštati — odgovornosti. To je ono što danas zovemo "odgovornim AI-jem". Odgovoran prema dioničarima. Prema klijentu, onoliko koliko dopušta ugovor o korištenju, članak sedamnaest, točka tri.

Ako moraš na dno svog proizvoda napisati da tvoj proizvod ne radi ono što svi misle da radi, možda problem nije u tome što ljudi ne čitaju sitni tisak. Možda je problem u tome što si prodao nešto što se ne usudiš imenovati.

Budućnost je stigla. Donijela je odricanje od odgovornosti.

Izvor: thenextweb.com