Zašto je OpenAI stvarno ugasio Sora: Lice, laž i milijarde lica
Šest mjeseci je trajala ta digitalna zabava, a onda su samo odvukli zastor. OpenAI je ugasio Sora, svoj alat za generiranje videa, i cijeli internet je momentalno počeo sumnjati u najgore. Naravno da jesmo. Pustili su milijune ljudi da uploadaju vlastita lica u sustav koji ih je mogao staviti u bilo koji kontekst, od glupog do opasnog, a onda su rekli: "Hvala na suradnji, zatvaramo radnju." To je kao da ti netko ponudi besplatno testiranje DNA, sakupi uzorke cijele obitelji, a onda proglasi da je projekt završen jer je "dostigao svoje znanstvene ciljeve".
Pa koji kurac, naravno da ćemo pomisliti da je ovo bila najsofisticiranija krađa podataka o licu u povijesti, obavljena u punom svjetlu dana pod krinkom tehnološkog napretka. Ali stvar je puno jednostavnija i puno ciničnija od toga. Ovo nije bio krađa. Ovo je bio test.
A mi, svi mi koji smo gurali svoje selfije u tu mašinu, bili smo pokusni zečevi u eksperimentu čiji je cilj bio odgovoriti na jedno pitanje: koliko ćete gluposti raditi za besplatnu digitalnu lutku? Razmislimo na sekundu o mehanizmu. Sora je bila besplatna, lako dostupna i izrazito zabavna. Mogao si vidjeti kako plešeš s dinosaurusima ili recitiraš Shakespearea na vrhu Mount Everesta.
Cijela poanta bila je u personalizaciji: "Daj nam svoje lice, a mi ćemo ga animirati." To nije slučajnost. To je bio mamac. Najvrijednija roba u dobu umjetne inteligencije nije neki apstraktni algoritam, već podaci za uvjetovanje. A što je bolji podatak od milijuna lica, označenih, verificiranih i dobrovoljno predanih u svim mogućim kutevima i osvjetljenjima?
To je sveti gral za treniranje modela koji će jednog dana moći generirati potpuno uvjerljive, personalizirane deepfake videozapise u stvarnom vremenu. Ali da bi došao do tog grala, moraš prvo znati koliko je ljudi spremno dati svoje lice za šalu. Odgovor, očito, je: svi. Evo House dijagnoze za ovaj slučaj.
Pacijent, OpenAI, pokazuje klasične simptome tehnološke arogantne neodgovornosti uz komplikacije akutnog pohlepnog kapitalizma. Primjenjuje se standardni tretman: izložiti proizvod javnosti pod lažnim flagom "istraživanja" ili "beta testiranja", sakupiti masovne količine podataka koje bi inače bile preskupe ili neetične za prikupljanje, a onda, kad se pojave prva pitanja o privatnosti ili kad se skupi dovoljno uzoraka, jednostavno povući uslugu uz hladnu objavu na blogu. Prognoza?
Izvrsna. Za kompaniju. Za korisnike, međutim, prognoza je trajni gubitak kontrole nad vlastitim biometrijskim otiskom, koji će sada živjeti zauvijek u nekom server-frižideru, čekajući da ga neki budući model, možda vojni ili marketinški, iskoristi na načine koje danas ne možemo ni zamisliti. A svi smo to potpisali s jednim klikom na "Slažem se s Uvjetima korištenja" koji nije pročitao ni jedan živ čovjek.
Tu dolazimo do apsurda koji bi i Cunk bila ponosna istaknuti. Ako je OpenAI toliko zabrinut za etiku i odgovornost – a stalno nam to govore – zašto je uopće lansirao alat s takvim očiglednim i ogromnim rizikom od zlouporabe? Zašto je dizajnirao upravo onu značajku koja je magnetski privlačila i najnaivnije korisnike: "Stavi svoje lice ovdje"? Odgovor je jednostavan: zato što im je trebao taj podatak.
Sve ostalo je tehnoblabla. Njihove izjave o "učenju iz interakcije s korisnicima" i "poboljšanju sigurnosnih protokola" prevode se na jednostavan jezik: htjeli smo vidjeti kako ljudi koriste ovu opasnu igračku, koje su najčešće zlouporabe, i kako možemo izgraditi ograde nakon što smo sakupili podatke koje smo željeli. Korisnici nisu bili klijenti. Bili su laboratorijski štakori.
A štakori se ne plaćaju. Oni se hrane i drže u kavezu dok eksperiment ne završi. Pogledajmo širu sliku, onu koju Sam Altman neće spomenuti na svojim TED govorima. Cijela ekonomija umjetne inteligencije temelji se na jednom principu: hranjenje gladnih modela podacima.
Tekstovi, slike, videozapisi, glazba – sve je to gorivo. Ali postoje podaci, a postoje kvalitetni, označeni, strukturirani podaci. Ljudsko lice je možda najsloženiji i najosjetljiviji biometrijski podatak koji postoji. I OpenAI je uspio dobiti milijune primjera, ne plativši ni centa po licu, nego samo dajući malo digitalnog šećera u obliku besmislene animacije.
To je poslovni potez genijalne jeftinice. Zamislite da trebate skupiti bazu od 10 milijuna lica. Možete angažirati firmu, plaćati ljude, suočavati se s regulatorima... ili možete napraviti zabavnu aplikaciju koja će za šest mjeseci to obaviti za vas, dok vam ljudi još i zahvaljuju. Izbor je očigledan.
A što se događa s tim podacima sada? Formalno, prema Uvjetima koje nitko nije čitao, OpenAI ih vjerojatno "zadržava u skladu sa svojom politikom privatnosti". To može značiti bilo što. Mogu ih koristiti za treniranje sljedeće generacije video modela.
Mogu ih anonimizirati i prodati partnerima. Mogu ih zaključati u trezor i čekati da zakonodavstvo u potpunosti zaostane za tehnologijom, što će se sigurno dogoditi. Apsolutna nada da će ih "izbrisati" je naivna do bola. U digitalnom svijetu, brisanje je teološki koncept, ne tehnički.
Podatak koji jednom uđe u neuronsku mrežu postaje dio njenog "znanja", utkan u težine i parametre. Ne možeš ga izvaditi kao šljivicu iz kolača. Ostaje tamo zauvijek. Ovo nas dovodi do srži problema, koji nije tehnički, već filozofski.
Mi, kao društvo, prodajemo svoj digitalni identitet za sitniš. Dajemo svoje lice za video u kojem glumimo superjunake. Dajemo svoj glas za besplatne AI asistence. Dajemo svoje pisanje, svoje fotografije, svoje navike.
Sve to za trenutnu zabavu ili marginalnu praktičnost. A kompanije koje to skupljaju grade najmoćnije alate za manipulaciju i nadzor koji je čovječanstvo ikada vidjelo. Sora je bila samo još jedan, posebno očit, korak u tom procesu. Zatvorili su je ne zato što su shvatili da je opasna, već zato što su dobili ono što su željeli.
Eksperiment je završen. Podaci su sakupljeni. Faza 1 je gotova. Što slijedi?
Slijedi Faza 2: komercjalizacija. Godinu-dvije od sada, vidjet ćemo ponovno lansiranje Sore ili njenog nasljednika, ovaj put kao premium uslugu, plaćenu pretplatu za tvrtke ili kreatore. I bit će nevjerojatno dobra, nevjerojatno precizna i nevjerojatno uvjerljiva upravo zato što je trenirana na onim licima koja smo joj besplatno dali. Mi ćemo platiti da bismo koristili alat napravljen od nas samih.
To je krug tehnološkog kapitalizma: uzmi od korisnika, preradi, pa im naplati pristup vlastitim preobraženim ostacima. A mi ćemo stajati u redu, kuckati broj kreditne kartice i biti zahvalni što smo dio "budućnosti kreativnosti". Ne treba biti naivan. OpenAI nije zlonamjerna tvrtka koja sjedi u okrugloj prostoriji i smišlja kako da zavlada svijetom.
Oni su samo izuzetno dobri u onome što rade: ubrzavanju razvoja AI i pretvaranju tog razvoja u ogromnu komercijalnu prednost. Problem je što je etika u toj jednadžbi uvijek reaktivna, nikad proaktivna. Prvo se izbaci proizvod, vidi koliko daleko može ići, a tek kad se pojave skandali ili regulatorni pritisci, počne se razmišljati o ogradama. To nije greška u sustavu.
To je sustav. Sora je savršena ilustracija. Lansiramo opasan alat, sakupimo dragocjene podatke, zatvorimo ga kad postane previše glasno, a onda koristimo naučeno da izgradimo sljedeću, još moćniju verziju. Korisnik je uvijek na gubitku, jer njegov doprinos nije plaćen, a rizik koji preuzima nije nagrađen.
I tako, dok se internet pita je li ovo bila krađa podataka, pravi odgovor leži negdje između. Nije bila krađa. Bila je ispaša. Mi smo stoka koja se dobrovoljno dovela u tor kako bi se namašila za klanje, a onda se čudimo što nas tretiraju kao stoku.
OpenAI je samo pokazao koliko je laka ta manipulacija. Ne trebaju hakirati naše uređaje. Ne trebaju nas prisiljavati. Dovoljno je ponuditi malo digitalne magije, a mi ćemo predati ključeve svog identiteta, jednog selfija po selfiju. techcrunch.com
Izvor: techcrunch.com Izvor: techcrunch.com Izvor: techcrunch.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari