Vodeni žig na tekstu koji je napisao stroj zvuči kao da je netko ukrao ideju Georgea Orwella i...

OpenAI će u Europskoj uniji ubacivati nevidljive vodeni žigove u tekst koji generira ChatGPT, ali je istovremeno, u istoj rečenici, odlučio da korisnici API-ja diljem svijeta mogu taj isti žig isključiti. Pročitaj to još jednom. Firma koja je izgradila cijelu svoju reputaciju na tome da je "sigurna" i "odgovorna" — jer je tako lakše skupljati milijarde od investitora koji ne žele novinare na vratima — sada prodaje dva različita proizvoda: jedan za Europljane koji moraju imati žig, i jedan za ostatak svijeta gdje je transparentnost opcionalna kao i sve ostalo. To nije regulatorna strategija. To je jelovnik.

I onda nam kažu da detekcija radi u 95 posto slučajeva. Zvuči impresivno dok ne pročitaš sljedeću brojku: čim zamijeniš četvrtinu riječi, stopa pada na 17 posto. Dakle, alat koji je zamišljen da razlikuje ljudsko od strojnog pisanja ima korisnost koja se raspada na prvom ozbiljnijem uređivanju teksta. To nije detekcija. To je detekcija dok se nitko ne trudi. A upravo se svi trude, jer je cijela poanta vodenog žiga da uhvati one koji se trude.

Ovdje se radi o nečemu mnogo gorem od loše tehnologije. Radi se o tome da je najveća AI kompanija na svijetu priznala, u javnosti, bez treptaja, da je njezina sposobnost da označi vlastiti proizvod — dobrovoljna. U Europi mora. U Americi i Aziji ne mora. I to je sve što trebaš znati o tome kako Silicijska dolina gleda na zakone: kao na vremenske prilike. U Europi pada kiša, pa nosiš kišobran. Kod kuće je sunce, pa nosiš kratke hlače i govoriš o slobodi.

Pitanje koje nitko u toj firmi očito nije postavio glasi: ako je žig toliko koristan i toliko pouzdan, zašto ga onda ne stavljate svima? Ako je to alat za zaštitu od dezinformacija, zar nije logično da ga svi imaju? Ako je to alat za zaštitu autorskih prava i integriteta, zašto je onda stvar dobrovoljnog pristanka? Odgovor je, naravno, novac. API korisnici su oni koji plaćaju po tokenu. Oni su kupci. Kupci ne vole dodatne žigove koji im mogu otkriti da njihov sadržaj nije baš njihov. Pa im se da opcija. Europski korisnici su, s druge strane, uglavnom pretplatnici na ChatGPT Plus, a pretplatnici nemaju pregovaračku moć. Njima se da žig i to je to.

To je ista logika po kojoj su automobilske kompanije godinama prodavale aute bez zračnih jastuka u Južnoj Americi, a s jastucima u Njemačkoj. Nije to bila razlika u tehnologiji. Bila je razlika u tome koga je regulator mogao tužiti, a koga nije. Vodeni žig je zračni jastuk. I kao i svaki zračni jastuk, koristi samo ako se aktivira. A ovdje se aktivira samo u Europi.

A sad onaj dio koji boli najviše. Detekcija od 95 posto zvuči kao da imamo rješenje. Nemamo. Imamo marketinški broj koji je istinit samo u laboratorijskim uvjetima, na tekstu koji nitko nije dirao. U stvarnom svijetu, tekst se dira. Prepisuje se. Preformulira. Prevodi. Student uzme ChatGPT-jev esej, zamijeni svaku četvrtu riječ sinonimom, i žig je mrtav. Novinar uzme AI generirani članak, provuče ga kroz parafrazirajući alat, i žig je mrtav. Prevoditelj prevede tekst na drugi jezik, i žig je mrtav. Ovo nije detekcija. Ovo je detekcija za lijene. A lijeni ionako ne predstavljaju problem.

Postoji i dublji problem, onaj koji nitko u OpenAI-ju neće izgovoriti naglas jer bi zvučalo kao priznanje. Ako je vodeni žig dovoljno robustan da preživi ozbiljno uređivanje, onda je dovoljno robustan da bude prisutan i kada to autor ne želi. A ako nije dovoljno robustan da preživi uređivanje, onda nije alat za borbu protiv dezinformacija, nego marketinški štih. Ne možeš imati oboje. Ne možeš tvrditi da štitiš integritet informacija i istovremeno dopuštati da se zaštita isključi kad to kupcu odgovara. To nije zaštita. To je opcija u postavkama.

Sjetimo se kako je tekao cijeli ovaj ciklus. Prvo su tvrdili da AI neće nikoga zamijeniti. Onda su tvrdili da neće biti problema s dezinformacijama. Onda su tvrdili da će sami sebe regulirati. Onda su tvrdili da detekcija radi. Sada tvrde da detekcija radi, ali samo u Europi, i samo dok nitko ne dira tekst. Svaka od tih tvrdnji imala je jednu zajedničku karakteristiku: zvučala je uvjerljivo otprilike šest mjeseci. Nakon toga je postala teret. Vodeni žig je sljedeća u nizu.

I onda se pitamo zašto ljudi ne vjeruju ničemu što izlazi iz te industrije. Nije zato što su tehnološki nepismeni. Nije zato što su paranoični. Nego zato što im se svakih pola godine servira nova verzija iste priče, s novim brojem i novim uvjetima, a jedina konstanta je da odgovornost uvijek nekako završi na korisniku, dok se kompanija ograđuje od svega što bi je moglo koštati.

Postoji i onaj manje romantičan problem, onaj financijski. Vodeni žig je, u suštini, DRM za tekst. A DRM ima trideset godina dugu povijest neuspjeha, koju su korporacije uporno ponavljale jer je svaki neuspjeh bio isplativ. Glazbena industrija je probala DRM na CD-ima. Nije radilo. Filmska industrija je probala DRM na DVD-ima. Nije radilo. Izdavačka industrija je probala DRM na e-knjigama. Nije radilo. Svaki put je tehnologija bila "neprobojna", svaki put je bila probijena u roku od nekoliko mjeseci, i svaki put je kompanija tvrdila da je to izoliran slučaj. Vodeni žig će završiti isto, samo brže, jer je tekst mnogo lakše prepisati nego što je CD lakše kopirati.

I tu dolazimo do pravog pitanja, onog koje bi svaki regulator trebao postaviti, a neće jer je previše zaposlen glumeći da razumije tehnologiju koju ne razumije. Ako je vodeni žig dobrovoljan, što on zapravo znači? Ako možeš isključiti žig, onda prisutnost žiga ne dokazuje ništa osim da je korisnik zaboravio isključiti postavku. A odsutnost žiga ne dokazuje ništa osim da je korisnik znao gdje je postavka. To nije forenzički alat. To je preferencija u korisničkom sučelju. I prodavati preferenciju kao zaštitu od dezinformacija je, u najboljem slučaju, neozbiljno, a u najgorem, prijevara.

Sve to skupa ostavlja gorak okus, onaj isti koji ostane kad ti netko proda "sigurnost" koja se sastoji od toga da oni mogu, ali ne moraju. Nevidljivi žig koji možeš isključiti nije žig. To je tetovaža koju skineš kad te nitko ne gleda. I upravo zato će sljedeća generacija ovakvih alata izgledati isto: lijepo na konferenciji, beskorisno u praksi, i profitabilno za one koji ga prodaju. Jer jedina stvar koju ova industrija dosljedno vodeni žigom označava nije tekst. Nego vlastite obećanja.

Izvor: the-decoder.com