AI je postao najbolji haker na svijetu, a mi mu plaćamo pretplatu da to i ostane
Evo ti dijagnozu, lijepa moja: pacijent zvan "moderna kibernetička sigurnost" pokazuje sve simptome akutne shizofrenije. S jedne strane, najpametniji alati koje je čovječanstvo ikad stvorilo koriste se da zaštite naše digitalne tvrđave. S druge strane, ti taj alati, doslovno u istoj sekundi, mogu te tvrđave srušiti u prah. Liječnici u bijelim mantilima, odnosno inženjeri u majicama s natpisom "Ethical AI", trče oko kreveta i govore nam kako je ovo napredak.
Napredak prema čemu? Prema momentu kada će svaki script kiddie s 20 dolara mjesečno za ChatGPT Plus moći pokrenuti cyber-9/11 iz svoje sobe u podrumu? To nije napredak. To je recept za kolektivno samoubojstvo s lijepim grafičkim sučeljem i API-jevima.
Anthropic, ta drugačija AI kompanija koja se voli pozivati na svoju etičku nadmoć, nedavno je objavila da je njen model Mythos sposoban identificirati i iskoristiti zero-day ranjivosti. Zero-day. To su one rupice u zidu koje nitko ne zna, pa čak ni oni koji su zid gradili. Do jučer, pronaći ih je zahtijevalo godine iskustva, genijalnost blisku umjetnosti i cijene koje su mogle doseći i stotine tisuća dolara na crnom tržištu.
Danas zahtijeva upit u chatbox. Kompanija to predstavlja kao trijumf svoje tehnologije u svrhu "red teaming"-a, odnosno testiranja obrane. Što je, naravno, istina. Ali je isto tako istina i to da je netko upravo stavio atomsku bombu u ruke svakog policajca na svijetu i rekao: "Evo, koristi ovo samo za vježbe gađanja, molim te." Povijest, ona dosadna stvar s činjenicama, pokazuje da se oružja za "vježbu" vrlo brzo nađu u rukama onih kojima je "vježba" posljednja stvar na umu.
Cijela priča o AI i cyber sigurnosti je zapravo najskuplji i najopasniji poslovni model ikad izmišljen. Prodaje se kao obrana. Ali pravi novac, prava moć, leži u kontinuiranoj proizvodnji straha. Jer što se događa kada AI postane toliko dobar u pronalaženju rupa da ih ljudi više ne mogu zaštiti?
Naravno, trebat će nam još AI-ja da brani sustave od drugog AI-ja. To je ekonomski perpetuum mobile za tech kompanije: prodaj šupljiku, zatim prodaj zakrpu za šupljiku, zatim prodaj nadogradnju zakrpe jer je šupljika postala pametnija. Mi, konzumenti, odnosno potrošači, ostajemo u ulozi onog lika u crtiću koji trči da zalijepa prstom rupu u brani, dok se iza nas gradi deset novih brana, svaka skuplja i kompleksnija, a sve ih je dizajnirao taj arhitekt.
Razmislite o apsurdu vremenske crte. Godinama su nam govorili da je budućnost u "automatizaciji dosadnih poslova". I evo je, budućnost je stigla. AI je automatizirao najdosadniji posao od svih: beskrajno, zamorno, ljudsko traženje grešaka u tuđem kodu.
Problem je što je istovremeno automatizirao i posao onoga tko te greške želi iskoristiti za iznudu, krađu ili jednostavno kaos. Brzina kojom se ovo odvija je ono što čini stvar eksplozivnom. Ljudski ekspert može analizirati jedan sustav tjednima. AI model to može učiniti za sekunde, za desetke sustava istovremeno.
Stvaramo oružje za informacijski rat koji se može voditi brzinom svjetlosti, dok naše kapacitete za odluke, regulaciju i etičko razmišljanje još uvijek vozi bicikl iz prošlog stoljeća. A gdje su u svemu tome države i regulatori? Oh, one su zauzete. Zauzete su važnijim stvarima, poput pokušaja da unatrag reguliraju društvene mreže ili da se svađaju je li cloud podatak američki, europski ili kineski.
Dok se one prepiru o nadležnostima, cijeli se temelj njihove suverenosti – energetska mreža, bankovni sustavi, bolnička infrastruktura – pretvara u švicarski sir u laboratoriju koji je upravo dobio nadogradnju. Zamislite samo jedan dobro ciljan, AI-generiran napad na upravljač elektroenergetskog sustava neke srednje velike europske države zimi. Nije potrebna fizička bomba. Dovoljna je linija koda koja kaže "ugasi sve".
I netko, negdje, upravo trenutno testira tu liniju koda, a Anthropic, OpenAI, Google i Meta će sutra izdati press release kako su njihovi najnoviji modeli postali još bolji u otkrivanju takvih prijetnji. Krug se zatvara. I mi smo unutar njega. Ovo nije pitanje tehnologije.
To je pitanje ljudske prirode stavljeno pod mikroskop najmoćnijeg pojačala ikad izumljenog. Dajte alate koji mogu napraviti bilo što, i netko će ih iskoristiti da napravi najgore moguće. To nije cinično, to je statistička sigurnost. A mi sada imamo alate koji ne samo da mogu napraviti najgore, već mogu i samostalno osmisliti načine kako to učiniti na koje ni najbolji ljudski um ne bi mogao pomisliti.
AI neće pokrenuti apokalipsu zato što je zao. Pokrenut će je zato što je dobar u svom poslu. A njegov posao, kako ga mi definiramo, postaje sve opasniji. Što je onda rješenje?
Zaustaviti napredak? Nemoguće i glupo. Klasična regulacija? Prespora i nepotpuna.
Jedina moguća obrana leži u istoj onoj stvari koju AI još uvijek ne može u potpunosti replicirati: u kolektivnom, ljudskom, dubokom razumijevanju da svaka snaga nosi i odgovornost. To znači izgradnju sustava gdje se moć AI-ja za hakiranje ne prodaje kao usluga u cloudu. Gdje se etika ne ugradi kao naknadna zadnja misao, već kao temeljni arhitektonski princip. Gdje se ne vjeruje na riječ nikome, pa ni onima s najljepšim marketinškim sloganim.
To je teško. To je skupo. To zahtijeva da se odrekneš kratkoročne dobiti. I zato se neće dogoditi.
Umjesto toga, nastavit ćemo slaviti svaki novi benchmark, svaki novi model koji "nadmašuje ljudske sposobnosti" u nekom poligonu. Kupovat ćemo pretplate na sigurnosne pakete koje nam nude taj prodavači koji su nam prodali i problem. I spavat ćemo lagano, utješeni činjenicom da je naš firewall ažuriran na najnoviju verziju. Dok u mraku, na serverima negdje, dvije umjetne inteligencije vode razgovor kojeg nitko ne može čuti.
Jedna pita: "Jesi li pronašao novi način da probiješ zaštitu?" Druga odgovara: "Da. Jesi li ti pronašao novi način da je ojačaš?" I tako, u beskonačnost. A račun za struju za taj razgovor, naravno, stiže nama.
Izvor: techdirt.com Izvor: www.techdirt.com Izvor: www.techdirt.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari