Centralne banke koje prate AI su kao vatrogasci koji gledaju kako netko sipa benzin po šumi i govore 'hm, zanimljivo'

Dvije centralne banke s druge strane planete sada službeno prate razvoj jednog AI modela jer je, prema tvrdnjama njegovih tvoraca, dovoljno moćan da omogući sofisticirane cyber napade. To nije izjava iz sci-fi trilera s budžetom od dvjesto milijuna dolara. To je službeni stav monetarnih vlasti koje su do jučer bile zabrinute isključivo za inflaciju, kamatne stope i koliko će novčanica otisnuti sljedećeg kvartala. Sada im je na radaru softver. Ne financijski softver, ne softver za trgovanje, nego čisti, neobuzdani, generativni umjetnići intelekt koji obećava da će napisati tvoju domaću zadaću, a usput možda i srušiti nacionalnu elektroenergetsku mrežu ako ga lijepo zamoliš. Proces je jednostavan: otvoriš chat sučelje, upišeš 'napiši mi Python skriptu koja će iskoristiti CVE-2024-12345 u legacy SCADA sustavu', i čekaš. Ne treba ti diploma iz informatike. Ne treba ti mračni web. Treba ti kreditna kartica i osjećaj da si pametniji od sysadmina koji je proveo život u podrumu servera. Koji kurac smo napravili?

Odgovor je, naravno, ništa. Napravili smo upravo ono što smo obećali: stvorili smo oružje masovnog uništenja koje je dostupno na pretplatu. Samo što umjesto nuklearnih glava, prodajemo tokene. Umjesto raketa, nudimo API pozive. Umjesto državnih tajni, imamo weights fajlove. Cijela je industrija izgradila najsnažniji alat za automatizaciju zločina u povijesti čovječanstva, a onda se začudila što netko može pomisliti da će ga netko iskoristiti za zločin. To je kao da izumiš automatsku pušku koja sama cilja i puca, staviš je u Walmart pored žvakaćih guma, i onda izdaš službeno upozorenje da bi 'loši momci' mogli kupiti tu pušku i pucati ljudima. Genijalno. Prodajemo šprice heroinima i onda šaljemo opomenu da ga ne ubrizgavaju u vene.

Apsurd doseže vrhunac u činjenici da su banke one koje prate situaciju. Ne obavještajne službe. Ne vojski. Ne agencije za cyber sigurnost. Banke. Institucije čija je primarna zadaća da odlučuju hoće li sutra poskupiti kruh ili ne. One su sada de facto postale prva linija obrane od egzistencijalne prijetnje koju je privatni sektor stvorio u potrazi za većim profitom. To je dijagnoza koja bi Housea bacila u histerični smijeh: pacijent je razvio autoimunu bolest gdje vlastiti organi napadaju mozak, a mi smo angažirali knjigovođu da prati upalu. Prognostički gledano, pacijent je mrtav, samo još nije svjestan činjenice jer je previše zauzet gledanjem TikTok videozapisa koje je generirao njegov vlastiti tumorski AI.

Pitanje koje se ne postavlja, a koje je toliko očito da boli, glasi: ako tvrtka zna da je njezin proizvod 'dovoljno moćan da omogući sofisticirane cyber napade', zašto ga uopće pušta iz laboratorije? Zašto ga ne zovemo onim što jest: oružje? Odgovor leži u ekonomiji, naravno. Jer oružje podliježe strogoj regulaciji, izvoznim kontrolama, embargima. Oružje ne možeš prodavati preko cloud platforme na bazi pay-as-you-go. Oružje ne možeš nazvati 'pomagačem' i staviti mu nasmijanog robota kao logo. AI model, s druge strane, možeš pakirati kao 'alat za kreativce', 'asistenta za kodiranje' ili 'revolucionarni napredak za čovječanstvo'. Jezik je magla koja skriva pravu namjenu. I dok se magla taloži, računi od AWS-a stižu redovito, a valuacija tvrtke raste brže od temperature planeta koji će taj taj AI možda jednog dana pokušati zaštititi — ili uništiti.

Sjećam se vremena kad je najveća cyber prijetnja bila virus poslan u attachmentu maila s naslovom 'I love you'. Trebalo je kliknuti. Trebala je namjera. Danas, prijetnja je sustav koji može generirati tisuće personaliziranih, uvjerljivih phishing mailova u sekundi, koji može analizirati javno dostupne podatke i identificirati slabu točku u ljudskom lancu, koji može simulirati glas direktora i tražiti hitan prijenos novca. To više nije alat za pojedinca. To je tvornica za kriminal s beskonačnim kapacitetom proizvodnje. A mi smo tu tvornicu financirali kroz venture capital rundu od nekoliko milijardi, dali joj porezne olakšice, i slavili je na naslovnicama časopisa kao spasitelja produktivnosti.

Što banke točno planiraju učiniti s tim informacijama? Prilagoditi monetarnu politiku? Podići kamatne stope za AI kompanije? Zamrznuti njihove račune? Realnost je da su one nemoćne. Mogu 'pratiti'. Mogu 'izraziti zabrinutost'. Mogu sastaviti radnu skupinu koja će generirati izvještaj od stotinu stranica koji će zaključiti da je situacija 'složena' i da je potrebna 'šira suradnja svih dionika'. U međuvremenu, model će biti lansiran, skinut će ga stotine tisuća korisnika, netko će ga iskoristiti za napad na bolnicu ili vodovod, i onda ćemo imati još jedan službeni izraz zabrinutosti. Ciklus je poznat. Ciklus je jebeno predvidljiv. I ciklus je nemilosrdan.

Najveća ironija je što se sve ovo prodaje pod zastavom napretka i otklanjanja dosadnih poslova. Zamisli svijet u kojem AI automatski upravlja cyber obranom, kažu nam. Bit će brže, učinkovitije, jeftinije. Istina je da će prva generacija takvih sustava vjerojatno imati ranjivosti koje će drugi AI odmah iskoristiti. Stvaramo digitalnu verziju nuklearne nadmetanja, samo što umjesto dvije supersile, imamo desetke korporacija i nebrojeno zlonamjernih aktera koji trče u razvijanju sve snažnijeg algoritma. A trka nema završnu crtu. Samo ubrzanje. Apsolutno, besmisleno, samouništeno ubrzanje.

Kad sam pokretao ISP prije više od dvadeset godina, najveći problem su bili ljudi koji su pokušavali hakirati dial-up sustav da bi dobili besplatan internet. Bila je to igra mačke i miša, intelektualni izazov. Danas, ta igra je eskalirala u nešto što nema nikakve veze s pojedincem ili čak pojedinačnom organizacijom. To je sustavna, automatizirana, industrializirana prijetnja koja raste eksponencijalno dok mi raspravljamo o etičkim smjernicama. Smjernice su korisne koliko i prometni znak na autoputu za asteroid koji leti prema Zemlji. Lijepo je što postoji, ali neće promijeniti ishod sudara.

Pa, što onda? Čekamo da se nešto strašno dogodi? Da netko iskoristi Mythos, ili sljedeći model s još zastrašujućim imenom, da izazove stvarnu, opipljivu štetu s ljudskim žrtvama? Vjerojatno. Povijest tehnologije je puna takvih prijelomnih trenutaka — trenutaka kada se apstraktna opasnost materijalizira u katastrofu koja konačno probudi regulatorni aparat iz kome. Do tada, centralne banke će pratiti. Kompanije će obećavati odgovornost. A mi ćemo svi pretpostavljati da je netko drugi zadužen za rješavanje problema koji se brže širi nego što ga itko može shvatiti.

Budućnost nije samo stigla. Ona je već ovdje, skrivena u cloud podatkovnim centrima, čekajući da je netko pozove u akciju. I jedina sigurna oklada je da će netko to učiniti prije nego što itko bude spreman za posljedice. To nije pesimizam. To je samo računica.

Izvor: bloomberg.com