Tri japanske banke dobile su OpenAI-jev najnoviji model za cyber obranu

Japanski ministar financija je, navodno, svečano najavio ovu suradnju. Zamisli taj prizor: čovjek u odijelu od tri tisuće dolara stoji ispred kamera i objašnjava kako je država koja je izumila keiretsu, koja ima banke starije od većine država na planeti, odlučila povjeriti svoju cyber sigurnost kompaniji koja još uvijek ne zna objasniti zašto njen model misli da je "dodaj malo ljepila na pizzu" dobar savjet za doručak. To nije povjerenje. To je kockanje s tuđim novcem. Doslovno.

Pedeset milijardi dolara vrijedna kompanija, tri banke koje drže pola japanskog BDP-a, i jedan model koji će, ako sve bude kako treba, detektirati napade prije nego što se dogode. Ako ne bude — pa, uvijek postoji papir. I ljudi. I onaj stari dobri air gap koji su admini instalirali devedesetih i nikad ga nisu ugasili jer, eto, "bolje da stoji".

Jer evo u čemu je kvaka. taj ti modeli koji sada brane banke, taj su oni modeli koje kinezi, Rusi, i onaj tip u podrumu u Rijeci koji je naučio programirati na YouTube tutorialima, koriste da probiju iste te banke. To nije tajna. To je javna dokumentacija. OpenAI je izdao model, objavio paper, i rekao: "Evo ga, branite se." A druga strana je skinula taj paper, pročitala iste slabosti, i rekla: "Evo ga, napadajte."

To nije prednost. To je utrka u naoružanju u kojoj obje strane trče istom stazom, s istim tenisicama, prema istom cilju — tko će prvi pronaći rupu u kodu kojeg su oboje napisali.

Japanske banke su, doduše, pametne. One ne uzimaju ovaj model i stavljaju ga direktno u produkciju. One ga testiraju. Provjeravaju. Puštaju ga na sandbox podatcima, na starim logovima, na simuliranim napadima. Pitaju ga: "Što bi ti napravio da si haker?" A model odgovori. I onda oni to zabilježe, i naprave patch, i model ponovo pitaju. To je dobar proces. To je proces koji radi. Ali košta. I traje. I zahtijeva ljude koji razumiju i AI i sigurnost i financije. Takvih ljudi nema puno. Čak ni u Japanu.

A Japan ima problem. Demografski, ekonomski, tehnološki. Banke su mu pune novca, ali prazne mladih ljudi koji znaju što je kurac zero-day exploit. Stariji direktori gledaju u AI kao u čarobni štapić koji će riješiti problem manjka stručnjaka. "Neka stroj radi, mi ćemo se baviti biznisom." Zvuči poznato? Zvuči kao svaka druga firma koja je kupila CRM, ERP, ili onaj "revolucionarni" chatbot prije pet godina. Pa sad ima bazu podataka koju nitko ne razumije i chatbota koji misli da je korisnik uvijek u pravu.

Ali hajde, dajmo im benefit sumnje. MUFG, SMBC, Mizuho — te tri banke nisu male ribe. One imaju sigurnosne timove koji su vjerojatno veći od cijelog IT odjela neke male države. One imaju resurse. One imaju iskustvo. One su preživjele japanski bubble, azijsku krizu, globalnu financijsku krizu, i pandemiju. Preživjet će i ovaj AI hype. Pitanje je samo koliko će ih to koštati.

Jer cijena nije samo u licencama. Cijena je u povjerenju. Kad daš AI-ju ključeve od trezora, ti zapravo kažeš: "Vjerujem ti više nego vlastitom zaposleniku." A AI nema savjest. AI nema etiku. AI ima vjerojatnosti. I kad vjerojatnost kaže da je najbolji način da zaštitiš banku da zaključaš sve račune na tri dana dok se ne provjeri svaka transakcija — AI će to predložiti. I banka će to napraviti. I tisuće ljudi neće moći podići plaću. I tisuće firmi neće moći platiti račune. I sve će biti u redu, jer je AI rekao da je to "optimalno rješenje".

Optimalno rješenje. Dvije riječi koje će uništiti više biznisa nego bilo koji haker.

Japan je, s druge strane, pametan što ovo radi sada. Dok je još rano. Dok modeli još nisu savršeni. Dok ima vremena za testiranje, za greške, za učenje. Dok greška ne košta milijardu dolara, nego samo reputaciju. Jer kad AI zajebe u cyber obrani, to nije "ups, sorry". To je "vaši podatci su sada u javnom domainu, a mi smo saznali da volite gledati mačke na internetu u 2 ujutro". Nije smiješno. Ali jest.

I što sad? Ostale banke će gledati. Ostale vlade će gledati. Ostale kompanije će čekati da vide hoće li japanski eksperiment eksplodirati ili donijeti plod. A OpenAI će, naravno, naplatiti oba ishoda. Jer ako uspije — oni su heroji. A ako ne uspije — pa, trebali su uzeti noviju verziju. Ili skuplju. Ili onu s više parametara. Uvijek postoji verzija koja će riješiti problem. Samo što ta verzija još nije izašla. Ali uskoro hoće. I koštat će. I bit će bolja. Dok netko ne probije i nju.

Tako to ide. Krug se vrti. Novac teče. AI uči. Ljudi plaćaju. I svi se prave da je ovo nešto novo. Nije. Ovo je ista stara priča o čovjeku koji proda čarobni napitak protiv zmija, a onda pusti zmije u selo da dokaže da napitak radi. Samo što su sada zmije digitalne, a napitak se plaća u pretplati.

Ali hej, barem su japanske banke dobile prve. I to nešto vrijedi. Valjda.

Ako moraš objasniti zašto tvoj sigurnosni proizvod nije prijevara, vjerojatno jest. Ako moraš objasniti zašto tvoj AI model neće uništiti banku, vjerojatno hoće. Ali tko će to reći ministru financija dok stoji ispred kamera i obećava sigurnost? Nitko. Jer svi su već kupili pretplatu.

Izvor: thenextweb.com