FraudShield AI: kad ti algoritam treba reći što znaš od 1998.

Nula koma trinaest posto. To je stopa prijevara u financijskom sustavu koju su izmjerili i objavili u radu koji predlaže rješenje. Nula koma trinaest posto transakcija je sumnjivo, a ostatak — onih devedeset devet koma osamdeset sedam posto — prolazi glatko kao maslac po vrućem nožu, što bi trebalo biti dobra vijest, osim što je vijest zapravo ta da banke i dalje gube milijarde, da peru novac kao da je pranje postalo nacionalni sport i da im treba hibridni LSTM-Graph Neural Framework da bi uopće primijetili da im netko krade iz podruma.

FraudShield AI, kako su ga nazvali autori, nije ništa drugo nego priznanje poraza cijele industrije koja je dvadeset godina prodavala maglu pod imenom "antifraud sustavi". Sjećam se Kvarner Neta sredinom devedesetih, kad si sumnjivu transakciju mogao prepoznati po tome što je netko pokušao platiti dial-up pristup karticom koja je očito bila ukradena jer je vlasnik zvao iz Njemačke i pitao zašto mu je istekao limit. To nije bilo detektiranje prijevara — to je bio zdrav razum. Danas zdrav razum košta sto tisuća dolara licence i dolazi u obliku neuronske mreže koja treba pet GPU godina da nauči ono što je svaki bankarski službenik s deset godina iskustva znao prvi dan na poslu: ako transakcija miriše na ribu u pustinji, vjerojatno je prijevara.

Problem nije u tehnologiji. Problem je u tome što su financijske institucije izgradile sustave koji su optimizirani za brzinu i volumen, a ne za istinu. Svaka transakcija prolazi kroz petnaest slojeva apstrakcije, tri cloud providera, dva API gatewaya i jedan blockchain koji su ubacili jer je bio trend, i sad se čude što im netko pere novac kroz smurfing — drobljenje velikih iznosa u male, bezazlene transakcije — dok njihov "napredni AI" gleda u grafove i pokušava shvatiti zašto je Ivan Horvat iz Rijeke odjednom postao najveći dobavljač kineskih dijelova za solarne panele u Dalmaciji. Ivan radi u pošti. Ivan nema pojma što je solarni panel. Ali Ivanova kartica je upravo platila dvije tisuće eura u Šangaju, i sustav kaže: "Izgleda legitimno, ima dobar credit score."

Ljudi koji su napisali ovaj rad očito su pametni. Prepoznali su da su postojeći sustavi beskorisni jer se bore protiv protivnika koji se prilagođava brže nego što banke mogu potpisati ugovor s novim vendorom. Adversarial evasion — kad prevarant nauči kako tvoj model radi i zaobiđe ga — to je stara priča. Prije trideset godina, hakere nisi mogao nadmudriti jer su bili brži i kreativniji od tvojih firewall pravila. Danas ih ne možeš nadmudriti jer je njihov AI naučio tvoj AI, i sad se bore u krugu koji se vrti sve brže dok netko ne povuče novac i nestane. Grafovi i LSTM mreže su dobra ideja. Spajanje vremenskih nizova sa strukturnim relacijama — da, to ima smisla. Prevaranti ne djeluju u vakuumu, oni imaju mreže, obitelji, partnere, sheme koje se ponavljaju. Ali ono što me jebeno živcira je iluzija da je ovo rješenje, a ne flaster na otvorenu ranu.

Pedeset tisuća dolara mjesečno za FraudShield AI, uz obavezni consulting paket od sto tisuća godišnje, i opet ćeš imati nula koma trinaest posto prijevara u podacima. Jer toliko ih uhvate. A onih ostalih devedeset devet koma osamdeset sedam posto — to su one koje su prošle, one koje su bile savršeno kamuflirane, one koje su izgledale kao da ih je napisala tvoja baka dok plaća račun za struju. Sustav neće reći: "Ovo je čudno." Sustav će reći: "Vjerojatnost prijevare: 0.02%. Proslijedi." I novac će otići, a ti ćeš saznati za šest mjeseci kad revizija otkrije da je netko izvukao dvanaest milijuna kroz fiktivne fakture za usluge koje nisu postojale.

Znanstveni radovi ovog tipa su kao najave novog iPhonea — svake godine izađe desetak, obećavaju revoluciju, a na kraju dobiješ malo bolju kameru i bateriju koja traje pet minuta duže. Ovdje je riječ o hibridnom pristupu koji kombinira LSTM za vremenske obrasce s grafovskim značajkama za strukturu mreže. Lijepo. Pametno. Ali pitanje koje nitko ne postavlja je: zašto ti treba AI da shvatiš da je račun koji je otvoren jučer, s depozitom od petsto eura, odjednom počeo vrtjeti transakcije od pedeset tisuća eura dnevno? Jer ti treba. Jer ljudi više ne gledaju podatke. Ljudi gledaju dashboarde. Dashboardi su postali ikone koje trebaju biti zelene, i ako su zelene, sve je u redu. A kad dashboard pocrveni, već je kasno.

I tu dolazimo do najboljeg dijela. Autori su svjesno stavili "Adversarial Resilience" u naslov. To je priznanje da će prevaranti napasti i ovaj sustav. Da će naučiti njegove slabosti, prilagoditi se, i za šest mjeseci opet biti korak ispred. I onda će netko napisati novi rad, s novim algoritmom, i ciklus će se nastaviti. To nije borba protiv prijevara. To je vječni rat u kojem jedini pobjednici prodaju oružje objema stranama. Banke kupuju modele. Prevaranti kupuju modele. A mi gledamo i pitamo se zašto su kamate na kreditne kartice i dalje osamnaest posto.

Evo što bi stvarno funkcioniralo. Umjesto da troše milijune na neuronske mreže koje detektiraju smurfing, banke bi mogle zaposliti troje ljudi koji su radili u kasinu u Las Vegasu i znaju prepoznati kad netko pokušava izgledati normalno dok je sve osim toga. Ali to nije skalabilno. To nije AI. To nije sexy. To je — jebote — zdrav razum, i zato ne prolazi na sastancima odbora gdje se odlučuje o budžetu za sljedeću godinu.

FraudShield AI je dobar proizvod. Rad je solidan. Metodologija je čvrsta. Ali ono što pokušava riješiti nije tehnički problem, nego ljudski. Ljudi su ti koji peru novac. Ljudi su ti koji izmišljaju sheme. Ljudi su ti koji sjede u uredima i odobravaju transakcije jer im je šef rekao da ne smiju usporiti throughput. I dok god je to tako, svaki novi algoritam je samo još jedan sloj na torti koja se već raspada. Prevaranti neće prestati. Oni će se samo prilagoditi. A mi ćemo nastaviti pisati radove, kupovati licence i čuditi se što je nula koma trinaest posto i dalje nula koma trinaest posto, samo sada s boljim grafovima.

Izvor: arxiv.org