Deepfake definicija EU: tko je uopće pitao trgovce namještajem

Devedeset posto marketinškog sadržaja jedne kompanije koja prodaje odjeću i cipele generirano je umjetnom inteligencijom. Ta brojka nije iz nekog cyberpunk romana iz devedesetih, nego iz Zalanda, firme koja je počela kao copy-paste američkog Zapposa i završila kao europski modni behemot s ambicijom da cijeli svoj vizualni identitet prepusti stroju. I sad dolazi dobar dio: Zalando i ostali veliki igrači na čelu s Eurocommerceom, udrugom koja okuplja Amazone, H&M-ove i IKEA-e ovog svijeta, traže da se ti AI-generirani oglasi izuzmu iz obveze označavanja prema EU AI Actu. Njihov argument? Slika dnevnog boravka generirana umjetnom inteligencijom, na kojoj se prodaje kauč, nije deepfake. I eto ga — Bruxelles je dobio filozofski problem koji bi mogao koštati više od svih seminara o etici umjetne inteligencije koje su platili zadnjih pet godina.

Kad trgovci namještajem počnu definirati što jest a što nije deepfake, znaš da je regulativa upala u škripac iz kojeg se ne izlazi bez bar nekoliko političkih mrtvih. Jer pogledajmo tu logiku: generiraš sliku koja izgleda kao stvarna prostorija, s ljudima koji ne postoje, svjetlom koje nikad nije palo kroz prozor koji nikad nije ugrađen u zgradu koja nikad nije izgrađena, i onda kažeš — to nije deepfake, to je samo marketinški materijal. Po toj logici, i lažna vijest o tome da je premijer dao ostavku nije deepfake, nego samo politički press release koji nije prošao lekturu. Definicija je problematična onoliko koliko je problematično povjerenje potrošača u ono što vide na ekranu, a to povjerenje već odavno leži u komadu na podu, pored one fotorealistične slike kauča koju je generirao model treniran na milijunima stvarnih kauča koje su fotografi stvarno slikali i za koje su stvarno plaćeni.

Ali najzabavniji dio ove priče nije sama definicija. Najzabavniji dio je tišina kojom su trgovci preskočili pitanje: ako je slika generirana, zašto je ne bi označili? Što se krije iza tog straha od male oznake koja kaže "Ovu sliku nije napravio čovjek"? Možda zato što bi potrošači, kad bi znali da gledaju u enterijer koji ne postoji, pomislili i na onaj drugi korak — da možda ni kauč ne izgleda tako u stvarnosti, da možda boje nisu te, da možda tkanina nije tako mekana, da možda cijela ta fotka laže na način na koji su fotke uvijek lagale, ali sad lažu algoritmom koji je napravljen da laže što uvjerljivije. I tu dolazimo do srži problema: industrija koja prodaje iluziju, sada se boji da će iluzija postati previše očita.

EU AI Act je, u svojoj srži, pokušaj da se definira što je transparentno u svijetu koji je odustao od transparentnosti. Zakon kaže da deepfakeovi moraju biti označeni, ali ostavlja pitanje — što je deepfake? Ako je deepfake fotorealistična slika nečega što se nikad nije dogodilo, onda je i ona fotka kauča u dnevnom boravku s pogledom na more kojeg nema deepfake. Ali ako je deepfake samo onda kad prikazuje osobu koja radi ili govori nešto što nikad nije radila ili govorila, onda je fotka kauča samo marketinški materijal. I tu smo — Bruxelles je, u pokušaju da regulira najgori scenarij (političke dezinformacije, lažne izjave, kompromitirajući videoi), zaboravio na svakodnevni, banalni, komercijalni deepfake koji ti prodaje kauč koji ne izgleda tako, u prostoriji koja ne postoji, po cijeni koja je realna samo u njihovim spreadsheetovima.

Zamisli scenarij: kupiš kauč na temelju fotke koju je generirao model. Stigne ti. Tkanina je drugačija. Boja je drugačija. Cijela prostorija u koju si ga smjestio izgleda kao da je netko ubacio kauč iz IKEA-inog kataloga u tvoj stan iz devedesetih. I sad imaš pravo reklamirati? Imaš. Ali na temelju čega? Na temelju fotke koja nije ni postojala? Kome se žališ — trgovcu koji će reći da je fotka bila "inspirativna interpretacija", ili regulatori koji su odlučili da ta fotka nije deepfake jer na njoj nema političara koji laže? Ironija je savršena: EU je napravila zakon koji štiti građane od lažnih vijesti, ali je zaboravila zaštititi ih od lažnih kauča. Jer lažni kauč nije politički problem. Lažni kauč je samo tržište.

I dok Bruxelles razmišlja o tome kako definirati deepfake, trgovci su već odavno preselili u svijet u kojem je 90 posto vizualnog sadržaja generirano. Zalando nije iznimka. On je pravilo. IKEA već godinama koristi generirane slike za kataloge. Amazon ima alate koji automatski generiraju lifestyle fotke za proizvode koji nikad nisu fotografirani u stvarnom okruženju. Cijela industrija maloprodaje preselila se u virtualni svijet u kojem je fotka samo referenca, a ne dokument. I sad kad EU kaže — označite deepfakeove — industrija kaže: koji deepfakeovi? Ovo su samo fotke. Fotke koje je napravio stroj. Ali to su fotke. I eto ga opet — pitanje definicije postaje pitanje moći. Tko definira što je stvarno? Tko ima pravo reći da je fotka generirana? I zašto bi itko uopće trebao znati?

Odgovor je, naravno, banalan: zato što je povjerenje jedino što maloprodaja još ima. Kad uđeš u dućan, vjeruješ da ono što vidiš jest ono što ćeš dobiti. Kad kupuješ online, vjeruješ da fotka nije laž. Ako ta fotka nije ništa drugo nego optimizirani pikseli koje je ispljunuo model, povjerenje nestaje. I neće ga vratiti ni najbolja politika povrata novca, ni najbrža dostava, ni najljubazniji korisnički servis. Jer kad jednom shvatiš da je cijeli katalog generiran, svaki klik postaje kocka. I to je problem koji EU ne može riješiti definicijom deepfakea, jer problem nije u definiciji. Problem je u tome što industrija više ne vjeruje vlastitim proizvodima dovoljno da bi ih stvarno fotografirala.

I dok Bruxelles razmišlja, trgovci su već odavno izračunali: jeftinije je generirati nego fotografirati. Jeftinije je platiti compute nego platiti fotografa, modela, studio, rekvizite, postprodukciju. Jeftinije je napraviti tisuću varijacija nego deset. I to je realnost. Regulativa će doći, ali će doći prekasno, kao i uvijek. I kad konačno definiraju što je deepfake, industrija će već biti u sljedećoj fazi — u kojoj će generirati ne samo fotke nego i cijele virtualne dućane, s virtualnim prodavačima, virtualnim policama, virtualnim iskustvom kupnje koje nema veze sa stvarnošću. I onda će opet pitati: je li ovo deepfake? Ili je ovo samo nova normala?

Najgore od svega je što nitko ne pita potrošača. Nitko nije napravio anketu: želite li znati je li fotka koju gledate stvarna ili generirana? Jer odgovor bi vjerojatno bio — da, želim. Ali taj odgovor ne odgovara industriji. Jer ako potrošač želi znati, onda industrija mora označiti. A ako označi, otvara se pitanje: zašto uopće koristiti generirane fotke ako su one lošije od stvarnih? I tu dolazimo do istine koju nitko ne želi izgovoriti: generirane fotke nisu lošije. One su bolje. One su savršene. One prikazuju kauč u idealnom svjetlu, u idealnoj prostoriji, s idealnim pogledom. I upravo zato su opasne. Jer savršenstvo u maloprodaji nije cilj — cilj je realnost. A realnost je da kauč izgleda drugačije u tvom stanu nego u studiju. I to je u redu. Ali industrija je odlučila da to nije u redu. Industrija je odlučila da je savršenstvo jedina opcija. I sad EU mora odlučiti hoće li to savršenstvo označiti kao laž.

Pedeset milijardi eura vrijedna je industrija koja prodaje stvari koje ne postoje, u prostorijama koje nikad nisu izgrađene, ljudima koji će ih platiti stvarnim novcem. I to je deepfake. Ali ne onaj o kojem EU raspravlja. Ovaj je tiši, podmukliji, i sjedi u tvom dnevnom boravku na kauču koji ne izgleda kao na slici. A najgore od svega? Naviknut ćeš se. Kao što smo se navikli na filtere na Instagramu, na lažne osmijehe na LinkedInu, na optimizirane životopise. Naviknut ćeš se na kauč koji ne izgleda kao na fotki. I to je poraz. Ne regulative. Nego povjerenja. I kad povjerenje nestane, ne vraća ga ni najbolja definicija deepfakea. Jer definicija je samo riječ. A riječi ne kupuju kaučeve.

Izvor: the-decoder.com