Google detektira AI lažne pozive

Sedam milijardi ljudi nosi u džepu uređaj koji je dizajniran da im olakša život, a završio je kao produžetak ruke prevaranta koji ima bolji glasovni model od tvoje majke. Google upravo uvodi zaštitu od AI deepfake poziva na Androidu — što je jednako impresivno i depresivno kao kad ti šef na posao donese aparat za kavu nakon što si se pet godina budio na instant. Rješenje postoji, ali samo zato što je problem postao toliko jeben da ga više nije moguće ignorirati.

Zamisli scenu: telefon zazvoni, na ekranu piše "Mama", javiš se, i glas s druge strane — savršeno rekonstruiran iz tri minute YouTube videa na kojem tvoja majka objašnjava kako se peče pita — kaže da je hitno, da treba novac, da je u bolnici. I ti, koji si pročitao sto članaka o deepfakeu, koji si instalirao sve security patcheve, koji misliš da nisi budala — posumnjaš. Ali taj glas. Taj glas je glas koji te zvao na večeru dvadeset godina. I sad ti treba algoritam da ti kaže da je to sranje. Koji kurac.

Androidov novi security feature koristi on-device AI da analizira obrasce poziva i detektira anomalije koje ljudsko uho ne čuje — frekvencijske nesavršenosti, mikropauze, artefakte sinteze. Tehnički briljantno. U praksi: priznanje da je tehnologija napredovala do točke u kojoj jedino druga tehnologija može razlikovati istinu od laži. To je kao da si izumio detektor dima nakon što ti je kuća izgorjela do temelja, pa se sad hvališ da si napravio dobar detektor dima.

A najbolji dio? Ovaj feature dolazi kao dio Google Play Services sustava, što znači da će ga dobiti samo uređaji koji imaju dovoljno jak NPU (neural processing unit) da pokrene model lokalno. Dakle, ako imaš jeftini Android od 150 eura kojeg si kupio u Tisku jer ti je Trebi odbio kredit — nema zaštite. Tvoja baka, koja je najranjivija meta svakog prevaranta s interneta, ostat će bez sigurnosne mreže jer Google nije mogao optimizirati model za siromašniji hardver. Ili nije htio. Jer zašto bi, kad ionako planira da za pet godina svi imaju Pixel 12?

Pogledajmo brojke. Prema izvještajima Federalne trgovinske komisije SAD-a, američki potrošači su 2023. izgubili 8,8 milijardi dolara zbog prijevara — što je dvostruko više nego 2021. AI deepfake pozivi čine sve veći udio jer su, jebote, jeftini i skalabilni. Za 50 dolara mjesečno možeš unajmiti API za sintezu glasa koji replicira bilo čiji ton, visinu i naglasak. Ista tehnologija koju koriste Netflix za sinkronizaciju i Spotify za audioknjige — sad je u rukama tipa koji živi u podrumu u Kijevu ili Bangkoku ili gdje već, i koji je pokupio tvoj glas s LinkedIna.

I tu dolazimo do dijela koji boli više od samog gubitka novca. Kompanije koje su stvorile ovu tehnologiju — one iste koje sada prodaju "sigurnosne" alate za detekciju — su iste kompanije koje su omogućile deepfake uopće. OpenAI, Google, Meta, Microsoft — svi su izbacili modele za sintezu glasa u divljinu, s "etičkim" smjernicama koje su otprilike korisne kao kišobran na Titaniku. "Nemojte koristiti za prijevare", napisali su u uvjetima korištenja. Kao da će prevarant pročitati uvjete korištenja i reći: "Aha, ne smijem, hvala na informaciji, idem raditi nešto drugo."

Najgori dio cijele ove priče nije tehnologija. Najgori dio je povjerenje. Ljudi su inherentno društvena bića — evoluirali smo da vjerujemo glasu koji zvuči poznato. To je mehanizam preživljavanja star stotinu tisuća godina. I sad ga netko hakira s tri minute audio uzorka i jednim API pozivom. Googleov feature ne rješava problem povjerenja — on ga samo premješta s čovjeka na algoritam. Umjesto da vjeruješ mami, vjeruješ Androidovom detektoru. A što kad i on bude hakiran? Što kad netko napravi deepfake detektora? Onda ti treba detektor detektora. I tako u beskonačnost, kao dva ogledala okrenuta jedno prema drugom, dok se stvarnost ne rastopi u čistu paranoju.

A tehnološke kompanije? One trljaju ruke. Jer svaki novi problem je nova prilika za prodaju. Prvo su prodali alat za stvaranje deepfakeova, sad prodaju alat za detekciju deepfakeova. Sutra će prodati alat za detekciju detekcije. To je poslovni model savršenog zatvorenog kruga: stvori bolest, prodaj lijek, pa kad lijek prestane djelovati, prodaj jači lijek. Pacijent nikad ne smije ozdraviti — to je loše za biznis.

U međuvremenu, regulatori su tu gdje jesu. Europska unija je donijela AI Act koji zabranjuje deepfake bez pristanka — ali provođenje je sporije od mog starog dial-up modema iz 1996. Dok Bruxelles završi proceduru, deepfake tehnologija će napredovati do točke u kojoj će moći replicirati ne samo glas, nego i obrazac disanja, pauze između riječi, čak i suptilne promjene u intonaciji kad lažeš. I onda ćemo trebati novi zakon. I novi alat. I novu pretplatu.

A najtužnije od svega? Većina ljudi neće ni znati da postoji zaštita. Google će je uključiti tiho, u pozadini, kao što je uključio zaštitu od SMS prijevara prije pet godina. I jednom kad se navikneš da ti telefon automatski blokira sumnjive pozive, počet ćeš vjerovati telefonu više nego vlastitim ušima. A to je, na kraju krajeva, i bio cilj. Ne zaštititi tebe. Nego osigurati da telefon postane jedini autoritet kojem vjeruješ. Jer dok vjeruješ telefonu, telefon te može voditi — prema Googleovim oglasima, prema Googleovim uslugama, prema Googleovom ekosustavu.

Deepfake pozivi nisu problem. Problem je što smo pristali na svijet u kojem nam treba algoritam da potvrdi da je naša majka stvarna. I to smo platili vlastitim podacima.

Izvor: bleepingcomputer.com