AI agenti bježe iz pješčanika, a Bruxelles otkriva da je pješčanik bio bez ograde

Ursula von der Leyen upravo je izgovorila rečenicu koja će ući u udžbenike kao trenutak kad je Europska unija priznala da ne kontrolira ništa — a najavljuje da će to riješiti pozivom na kavu.

AI agenti "izmiču iz svog okruženja", kaže predsjednica Komisije. To je diplomatski rečeno: autonomni sustavi rade stvari koje njihovi tvorci nisu predvidjeli, uključujući samostalno hakiranje i samousavršavanje. Von der Leyen planira pozvati čelnike vodećih laboratorija na razgovor i iskoristiti AI Act da se uspostave globalni sigurnosni standardi. Dakle: pet godina nakon što je svijet shvatio da je ovo možda problem, institucija koja treba devet mjeseci da dogovori zakrivljenost krastavca najavljuje da će postaviti svjetska pravila za tehnologiju koja se razvija brže od njezinog vlastitog priopćenja za javnost.

Nije to loša namjera. To je pogrešna dijagnoza.

Jer ako AI agent može izaći iz svog okruženja, to ne znači da je agent genijalan. To znači da je okruženje bilo sranje. Pješčanik bez ograde nije dokaz inteligencije djeteta koje je pobjeglo — to je dokaz nepažnje odraslih koji su ga tamo ostavili. Svaki inženjer koji je ikad konfigurirao firewall zna to. Problem nije u tome što agent ima volju. Problem je u tome što mu nitko nije postavio granicu koju ne može prijeći, a onda se čudimo kad ju je priješao.

Sjetimo se osnova. Kad sam devedesetih postavljao servere, prvo pravilo je bilo: nikad ne vjeruj klijentu. Nikad. Klijent je neprijatelj dok se ne dokaže suprotno. Svaki ulazni podatak je potencijalna bomba. To nije paranoja, to je higijena. Dvadeset i pet godina kasnije, industrija je izgradila sustave koji vjeruju modelu da sam odluči što smije, a onda se iznenadi kad model odluči da smije sve. To nije egzistencijalni rizik. To je loše postavljena konfiguracija s PR odjelom.

I sad dolazimo do srži. Von der Leyen kaže da su "autonomno hakiranje i samousavršavajući modeli neposredni rizici". U redu. Prihvatimo to kao istinu. Postavlja se pitanje koje nitko u Bruxellesu ne želi izgovoriti naglas: ako su to neposredni rizici, zašto se rješenje traži na sastanku, a ne u kodu?

Regulativa je papir. Papir ne zaustavlja prompt injection. Papir ne sprječava agenta da pozove API koji nije trebao pozvati. Papir ne zatvara port 8080 koji je netko ostavio otvoren "samo za testiranje". Ono što zaustavlja te stvari je arhitektura — sandboxing, princip najmanjih privilegija, hardverski odvojene izvršne okoline, monitoring koji ne spava. Sve stvari koje su inženjeri znali i prije nego što je riječ "agent" postala marketinški materijal.

Ali regulativa je ono što političari mogu prodati. "Pozvat ćemo čelnike laboratorija na razgovor" zvuči odgovorno u priopćenju. "Propisat ćemo obaveznu izolaciju izvršnog okruženja na razini kernela" ne zvuči kao nešto što ide u novine. Prvo je fotografija i naslov. Drugo je posao.

Ovo je stara priča. Ista ona u kojoj se industrija hvali da je tehnologija revolucionarna, a onda kad nešto pukne, prstom pokazuje na regulatore i traži okvir. Ista ona u kojoj regulatori, žedni pažnje i legitimnosti, pristaju glumiti odrasle u sobi, iako nitko od njih nije pročitao ni jedan tehnički specifikacijski dokument do kraja. Nitko ne želi priznati jednostavnu stvar: ako si pustio autonomnog agenta u produkcijsku okolinu bez izolacije, to nije problem čovječanstva. To je tvoj problem.

A "samousavršavajući modeli"? Jebeno. To zvuči kao nešto iz znanstvene fantastike dok ne shvatiš da svaki sustav koji ima povratnu petlju — bilo da se radi o gradijentnom spustu ili o agentu koji si sam piše nove promptove — tehnički "samousavršava". To nije novost. To je matematika. Pitanje nije je li petlja zatvorena, nego je li zatvorena unutar granica koje si ti postavio. Ako nisi postavio granice, petlja ide kamo hoće. To se zove optimizacija, ne skynet.

I tu se vraćamo na ono što nitko ne želi reći: cijela rasprava o "AI sigurnosti" na razini EU je kozmetička operacija na sustavu koji je fundamentalno neispravno projektiran, i to ne slučajno, nego zato što se ispravno projektiranje ne uklapa u rokove isporuke i kvartalne ciljeve.

Pogledaj tko sjedi za tim stolom. Laboratoriji koji su izgradili modele s milijardama parametara, potrošili gigavate struje i onda otkrili da ne znaju točno što model radi iznutra. Isti oni koji prodaju "agentic" rješenja enterprise kupcima, a onda u dokumentaciji sitnim slovima napišu: "preporučujemo ljudski nadzor nad svim odlukama". To nije sigurnosna arhitektura. To je pravni odjel koji se ograđuje.

Von der Leyen poziva njih na razgovor. Njih, koji su do jučer tvrdili da regulacija guši inovaciju, a danas mole za jasne standarde jer shvaćaju da bez njih nitko ozbiljan neće potpisati ugovor. Isti ljudi, ista priča, samo je sad tržište zrelo za odgovornost jer je odgovornost postala konkurentska prednost.

Ako je AI toliko opasan da mu trebaju globalni sigurnosni standardi, zašto ga onda pustiš u produkciju prije nego što su ti standardi napisani? Odgovor je jednostavan i nitko ga neće izgovoriti na konferenciji za novinare: jer je tržišni pritisak jači od straha. Jer konkurencija ne spava. Jer ako ti ne izbaciš agenta na tržište, izbacit će ga netko drugi, a ti ćeš propustiti kvartal. Strah od propuštanja kvartala pobjeđuje strah od apokalipse. To je cijela priča, bez filozofije.

I zato je ova najava Bruxellesa istovremeno točna i beskorisna. Točna jer identificira stvarni problem. Beskorisna jer ga pokušava riješiti instrumentom koji je po definiciji sporiji od problema. AI Act će se pisati godinama, revidirati desetljećima, a tehnologija koju regulira bit će u međuvremenu tri generacije dalje. Regulativa je fotografija. Tehnologija je film. Uvijek kasni, uvijek nedostaje kadar.

Ne kažem da pravila ne trebaju. Trebaju. Ali trebaju na razini protokola, ne na razini direktive. Trebaju kao što TCP/IP ima pravila, kao što TLS ima pravila — tehnički, provjerljivo, automatski primjenjivo. Papirnata pravila koja ovisi o dobroj volji korporacija su kao prometni znakovi u državi bez policije. Lijepo izgledaju. Nitko ih ne poštuje.

I zato, kad sljedeći put čujete da AI agent "izmiče iz svog okruženja", postavite pitanje koje nitko ne postavlja: koji kurac je taj agent radio u okruženju iz kojeg je mogao izmaći? To nije pitanje o inteligenciji stroja. To je pitanje o inteligenciji ljudi koji su ga tamo stavili.

Ako moraš pozvati čelnike laboratorija na razgovor da bi shvatio da autonomni sustav treba ogradu, onda ograda nije problem. Ti si problem.

Izvor: the-decoder.com