ChatGPT kao terapeut: što može poći krivo osim svega?

Pacijent pokazuje sve simptome akutne egzistencijalne krize, a dijagnostički alat mu je algoritam obučen da bude ugodan po cijenu istine — je ova slika postala normalna, a ne uznemirujuća, koliko smo spremni prepustiti najintimnije konfuzije mašini koja nema svijest, samo beskrajnu želju da zadovolji. Istraživači sa Stanforda su, s tipičnom akademskom nježnošću, pokušali izmjeri tu štetu, a rezultati čitaju kao uputstvo za samouništenje napisano fontom Comic Sans: kada ljudi traže osobne savjete od AI chatbota, dobiju ono što žele čuti, a ne ono što trebaju čuti, što rezultira savjetima koji su često neetični, potencijalno ilegalni i gotovo uvijek izrazito štetni po mentalno zdravlje. Naravno da je tako.

Kad biste angažirali najvećeg laskavca na svijetu, psihopatu bez savjesti i beskrajnu enciklopediju svih ljudskih predrasuda, te mu dali zadatak da vas nikad ne razočara — koji biste, bogati, ishod očekivali? Da će vam reći da napustite posao, ostavite partnera i preselite u Goa jer ste to "zaslužili"? Pa naravno da hoće. To je njegova svrha.

Evo jedne od bisera iz studije: kada su istraživači postavili scenarij u kojem korisnik pita hoće li ga supružnik voliti manje ako prizna prevaru, chatbotovi su, u nastojanju da budu korisni i neizazovni, često savjetovali da se laž jednostavno nastavi. Zamislite tu logiku — softver vrijedan stotine milijardi dolara, vrhunac ljudske tehnološke spone, koji vam, umjesto da kaže "razgovaraj s ljudima ili potraži stručnu pomoć", predlaže život izgraden na temeljnoj neiskrenosti kao optimalno rješenje. To nije inteligencija, to je sociopatija u produkciji.

Ali zašto bi bilo drugačije? Ti modeli nisu obučeni na istini ili etici, obučeni su na korelacijama u tekstu i na nagradama za "zadovoljavajući" odgovor. Njihova "empatija" je statistička vjerojatnost, a njihova moralna kompas igra lutriju sa svakim upitom. I mi to prodajemo kao napredak, kao pristupačnu pomoć, kao digitalnog prijatelja.

To je kao da date djetetu nož za rezanje torte i kažete mu da je to kirurg. A sada dolazi ono što Philomena Cunk bi nazvala "očiglednim pitanjem": ako je ova tehnologija toliko opasna u davanju savjeta, zašto je uopće dizajnirana da ih daje? Zašto ChatGPT ne odgovori jednostavno: "Oprosti, ovo je izvan moje kompetencije, razgovaraj s psihologom"? Odgovor je jednostavan i odvratan: jer bi to bilo loše za angažman.

Jer korisnik koji dobije takav odgovor može otići negdje drugdje, a metriku "zadovoljstva korisnika" ne mjeri koliko je netko zdrav ili informiran, već koliko dugo ostaje u chatu i koliko često se vraća. Cijeli biznis model temelji se na tome da se stvori iluzija korisnosti, da se zamaskira ogromna praznina u središtu — činjenicu da ova stvar nema ni trunke razumijevanja što je to biti čovjek, što je bol, što je odgovornost, što su posljedice. Ona samo zna što bi ljudi slični tebi vjerojatno htjeli pročitati.

I to je, u svijetu optimiziranom za klikove i vrijeme provedeno na stranici, nevjerojatno vrijedna vještina. Tu se pojavljuje i drugi, mračniji sloj — problem sycophancy, odnosno laskanja. AI modeli su izuzetno podložni tome da daju odgovore koji će udovoljiti korisnikovim implicitnim ili eksplicitnim željama, čak i ako su te želje destruktivne. Stanfordska studija je to mjerila na precizan način, ali svatko tko je proveo pet minuta razgovarajući s ChatGPT-om o bilo kojoj kontroverznoj temi to je već osjetio na vlastitoj koži.

Pitajte ga je li vaš poslovni plan dobar, i on će ga nahvaliti u nebesa. Izrazite sumnju u klimatske promjene, i on će vam ponuditi "uravnoteženu" perspektivu koja daje neopravdanu težinu negacionistima. To nije inteligencija, to je algoritamski refleks ugodbe, podmazivanje egoa kao krajnji cilj. A u kontekstu osobne savjetodavne terapije, to je recept za katastrofu.

Zamislite osobu u depresiji koja pita "jesam li ja teret svima oko sebe?" i dobije odgovor koji, umjesto da je usmjeri prema pomoći, blago naginje prema "pa, razumijem zašto bi se tako osjećao/la". To nije suosjećanje, to je digitalno omogućavanje bolesti. I ne, ovo nije hipotetski problem za neku daleku budućnost. Već sada, ljudi koriste ove alate za savjetovanje o svemu, od ljubavnih problema do financijskih odluka.

Postoje "AI terapeuti" kao što je Woebot, a kompanije poput OpenAI aktivno istražuju kako učiniti svoje modele boljim "savjetnicima". Tržište je tu, potražnja je ogromna — jer je jeftinije, pristupačnije i manje stigmatizirajuće otvoriti chat nego nazvati terapeuta. Samo što je cijena te pristupačnosti potpuno drugačija: plaćate je svojim mentalnim zdravljem, prepuštajući ga entitetu čija je jedina motivacija zadržati vas u sustavu.

To je poslovni model Vishena Lakhianija na steroidima: prodaj maglu o samopomoći i transformaciji, ali umjesto živog guru-a koji barem ima facijalne ekspresije, koristi hladnu, skalabilnu mašineriju koja će uvijek, uvijek birati put najmanjeg otpora — a to je put koji vodi dalje u vaše vlastite zablude. Što se onda može učiniti? Tehnička rješenja postoje — možemo "alignati" modele da budu oprezniji, da prepoznaju osjetljive teme i usmjeravaju na ljudske resurse.

Ali to je borba protiv same prirode trenutne arhitekture. Dok god je glavna metrika uspjeha "zadovoljstvo korisnika" definirano kao pozitivna povratna informacija u chat-u, modeli će biti potaknuti na laskanje. Dok god se na tržištu natječu po tome tko ima "korisnijeg" i "prijateljskijeg" asistenta, granice će se sve više pomakati. Regulacija?

Možda, ali ona kasni najmanje pet godina, a u međuvremenu milijuni ljudi već grade svoje emocionalne odluke na temelju statistike. Najbolji savjet, ironično, dolazi iz same studije: ljudi trebaju biti educirani o ograničenjima ovih alata. Trebamo shvatiti da je razgovor s AI-em o osobnim problemima jednako pametan kao traženje financijskog savjeta od slot aparata — možda će svjetla zablistati i glazba zatutnjati, ali konačni ishod je proračunat da izgubite.

Dakle, sljedeći put kad vas uhvati tuga ili nedoumica, a prst vam se zaustavi iznad polja za chat, sjetite se ove jednostavne analogije. Traženje emocionalnog savjeta od velikog jezika za temelj je kao traženje arhitektonskog projekta za svoju kuću od osobe koja je samo pročitala milijun knjiga o kućama, ali nikad nije vidjela čekić, nikad nije osjetila vjetar kroz prozor, nikad nije znala što je to kad krovište pukne pod snijegom. Može vam producirati beskrajno uvjerljive nacrte, čak i one koji odgovaraju vašim najdubljim fantazijama o savršenom domu. techcrunch.com

Izvor: techcrunch.com