Personalna inteligencija: najskuplji nadzor koji si sam platio

Dvije milijarde aktivnih korisnika dnevno su dovoljne da se napravi najveći eksperiment u povijesti psihologije, a da nitko ne mora potpisati informirani pristanak. Google je, naravno, tu brojku već imao. Sada je dobio i pristanak. Omotao ga je u novu značku, nazvao ga "Personalna inteligencija" i prodaje ga kao premium uslugu — kao da si platio butlersku odijelu koja ti ne donosi čaj, već ti čita poštu, kalendar i bankovni račun kako bi znala što da ti donese prije nego što i sam to znaš. Genijalno je. I zastrašujuće jebeno.

Cijela premisa je remek-djelo inženjerskog gaslightinga. Desetljećima su nas učili da je povjerljivost digitalna vrlina, da je privatnost ljudsko pravo, da su naši podaci naša tvrđava. A onda su taj ti ljudi koji su prodavali šifrirane chatove i private mode došli i rekli: "Zapravo, sve je to pogrešno. Prava moć dolazi kad se predaš. Prava personalizacija počinje kad otključaš sve brave i pustiš naš AI da prošeta kroz tvoj digitalni život kao što forenzičar obilazi mjesto zločina." I mi, kao da smo kolektivno dobili amneziju, kliknemo "U redu" i osjećamo se pametno. Jer sada će nam AI predvidjeti da trebamo naručiti umak za tjesteninu u petak navečer. Koji kurac.

Dijagnoza je jednostavna, a prognoza je loša. Pacijent pati od akutnog sindroma digitalne usamljenosti uz kroničnu potrebu za validacijom. Simptomi uključuju želju da nas stroj razumije bolje od ljudi, jer ljudi zahtijevaju trud, a stroj samo zahtijeva pristup. Liječenje bi podrazumijevalo odvikavanje od instant gratifikacije, ali farmakološko rješenje — u obliku još bržih i "pametnijih" notifikacija — samo pogoršava stanje. Tržište nema terapiju za ovu bolest, jer tržište je upravo onaj koji je uzrokovao.

Apsurd postaje apsolutan kad se sve svede na jednostavno, naivno pitanje: ako je ova tehnologija toliko moćna da zna što želim prije mene, zašto je njen najčešći izlazni rezultat i dalje reklama za jebeni odvlaživač zraka ili ponuda za kredit kojeg mi ne trebam? Gdje je ta čarobna personalizacija kad treba prepoznati da sam upravo pročitao članak o recesiji i da mi ne treba popust na luksuzni sat? Ne postoji. Jer krajnji cilj nije razumijevanje. Krajnji cilj je predikcija ponašanja u svrhu monetizacije. Sve ostalo je nusproizvod, sporedni efektat koji se prodaje kao glavna atrakcija.

Metafora je iz kuhinje, ali one prljave, one iza restorana gdje se peru podovi klornom. Ovo nije personalni šef. Ovo je konobar koji je prošao kroz tvoj smećnjak, pregledao račune i sada ti preporučuje jelo koje si već jeo jer zna da ćeš ga opet naručiti. Nema inovacije, nema iznenađenja, nema istinskog razvoja okusa. Samo beskrajna, algoritamska povratna petlja tvojih vlastitih, najsigurnijih izbora. Kuhinja postaje zatvor, a kuhar je tvoj stražar. I ti si platio ulaznu kartu.

Ritam ovog ludila je postao toliko uobičajen da ga više ne čujemo. Dugo, dugo vremena tehnološke kompanije su skupljale naše podatke kradom, ili pak lukavim EULAMA koje nitko ne čita. Bila je to igra mačke i miša, s neugodnim senzacionalističkim naslovima o "krađi podataka". Sada je igra gotova. Miš je pristao da ga mačka pojede, pod uvjetom da ga mačka prvo umota u topli ručnik i nazove "premium iskustvom". I svi su sretni. Kompanije su sretne jer su dobile eksplicitni pristanak za ono što su ionako radile. Korisnici su sretni jer osjećaju da su nešto dobili — osjećaj da ih netko razumije. Nitko ne spominje da je cijena tog razumijevanja potpuna transparentnost.

Usporedba s lokalnim iskustvom je nemilosrdna, ali nužna. Sjećam se vremena kad smo pokretali jedne od prvih internet provajdera u Hrvatskoj. Bila je to igra povjerenja. Ljudi su nam dali svoje podatke, svoj novac, svoju komunikaciju, s povjerenjem da ćemo ih prenijeti od točke A do točke B, a ne da ćemo ih analizirati, kategorizirati i pakirati za prodaju. Bila je to usluga, ne ekstrakcijski rudnik. Danas, svaki put kad klikneš "Dopustite Geminiju pristup vašem Google Kalendaru", ne dopuštaš uslugu. Dopuštaš rudarenje. I rudar nije neki anonimni hakir u podrumu. Rudar je korporacija vrijedna trilijune dolara koja ti, s osmijehom, nudi lopatu.

Završna je činjenica tužno jednostavna: prodali su nam nadzor i nazvali ga slobodom. Uvjerili su nas da je otpuštanje kontrole zapravo vrhunac osobne moći. Budućnost je stigla, i u njoj smo svi glavni likovi u vlastitoj reality emisiji, čiju scenografiju, scenarij i reklamne pauze kontrolira stroj koji smo sami hranili svim što jesmo. Jedina personalizacija koja je stvarno ostvarena je ona koja vodi do profitne marže. Sve ostalo je samo vrlo, vrlo uvjerljiva iluzija.

Izvor: zdnet.com