AI sigurnost je kao kondom koji kupiš nakon što si već dobio spolnu bolest — tehnički moguće, ali...

Cyber-insecurity u doba AI-ja nije problem koji treba riješiti, nego simptom koji treba dijagnosticirati. I dijagnoza je, kao i uvijek u medicini, jednostavna: pacijent je imao rak sigurnosti dok je još bio benigni tumor, ali sad je metastazirao u svaki sloj softverskog lanca. I dok se IT odjeli hvale da su “implementirali AI security framework”, stvarnost je da su samo dodali još jedan layer na hrpu koja se već ljulja kao kula od karata na kišnom vjetru.

Pogledajmo što smo zapravo napravili. Ugradili smo crnu kutiju u svaki proizvodni sustav — model koji nitko ne razumije do kraja, koji se ponaša na načine koje ni njegovi tvorci ne mogu predvidjeti, koji uči iz podataka koje je netko mogao otrovati prije nego što je itko provjerio. I onda smo tu istu kutiju spojili na sve — na baze podataka, na API-je, na cloud infrastrukturu, na korisničke sesije. Kao da si u kuću s drvenim temeljima ugradio centralno grijanje pa se čudiš što je izgorjela.

Najljepši dio ove priče je da su sigurnosni stručnjaci godinama upozoravali na to. Ali oni su bili ti koji su uvijek govorili “ne” — onaj dosadni tip na sastanku koji spominje rizik kad svi pričaju o brzini. Pa su ih maknuli sa sastanaka. Pa su ih maknuli iz procesa. Pa su ih maknuli, točnije, iz kompanija. I sad imamo situaciju u kojoj je gotovo polovica ljudi koji čuvaju tvoje podatke spremna dati otkaz — ne zato što su nesposobni, nego zato što je posao postao nemoguć. Kao da si zaposlio vatrogasca pa mu svaki dan pališ kuću da vidiš hoće li dovoljno brzo reagirati.

A AI je tu samo ubrzao proces. Dok su ranije napadi dolazili sporo i bili relativno lako prepoznatljivi — phishing mail s krivim slovom u domeni, SQL injection koji je izgledao kao SQL injection — danas imaš generativne modele koji pišu uvjerljive mailove na tvom jeziku, tvojim stilom, s tvojim podacima. I to u stotinu varijanti u sekundi. Skalabilnost napada je postala skalabilnost koju obrana ne može pratiti, jer obrana još uvijek misli da je 2015. godina i da je dovoljno instalirati antivirus i reći ljudima da ne klikaju na linkove.

Problem je, naravno, dublji od tehnologije. Problem je u načinu na koji smo organizirali sigurnost. U svakoj kompaniji koju sam vidio — a vidio sam ih dosta, od startupa u garaži do korporacija s vlastitim heliodromom — sigurnost je bila naknadna misao. Prvo se napravi proizvod, onda se doda security. Prvo se izgradi infrastruktura, onda se pozove netko da je zakrpa. Prvo se implementira AI, onda se pita “a što ako model procuri”. To je kao da sagradiš most pa pitaš inženjera hoće li izdržati težinu — trebalo je pitati prije, dok su se temelji lijevale.

I što sad? Pa, industrija je odlučila da je rješenje — više AI-ja. Naravno. Jer ako imaš problem s vatrom, rješenje je više vatre, zar ne? AI security alati koji detektiraju AI napade. AI firewalli koji blokiraju AI malware. AI sustavi koji nadziru druge AI sustave. To je kao da pijanac pije da bi se otrijeznio — tehnički moguće, ali vjerojatno neće završiti dobro.

MIT Technology Review je na svojoj EmTech konferenciji okupio ljude koji o tome razmišljaju na pravi način. Njihova poruka je jednostavna: sigurnost mora biti ugrađena u AI, a ne dodana na AI. To zvuči očito, ali u industriji u kojoj se “agilno” koristi kao izgovor za neplaniranje, to je revolucionarna ideja. Znači da prije nego što treniraš model, moraš znati tko će ga napadati, kako, zašto i s kojim ciljem. Znači da svaki API poziv mora biti dizajniran kao da će ga sutra netko pokušati iskoristiti protiv tebe. Znači da “move fast and break things” više nije opcija kad ono što razbijaš su tuđi životi i podaci.

Ali to je dosadno. To nije sexy. To ne prodaje keynoteove. To ne dobiva funding. Zato ćemo nastaviti raditi ono što smo uvijek radili — praviti se da je problem pod kontrolom dok ne bude prekasno. A kad bude prekasno, okrivit ćemo AI. Ili Kineze. Ili hakere. Ili nekog trećeg. Samo ne sebe.

Jer priznati da si deset godina ignorirao upozorenja i gradio sustav koji je inherentno nesiguran — to bi zahtijevalo malo više integriteta nego što industrija posjeduje.

I zato ćemo nastaviti kupovati kondome nakon što smo već dobili bolest. Jer tako se to radi, jebote. Tako se uvijek radilo.

Izvor: technologyreview.com