Microsoft MXC: kad shvatiš da ti AI agent treba sigurnosnu kutiju

Dvije godine su trebale tech industriji da shvati ono što je svaki sysadmin znao još devedesetih: ako nekom programu dopustiš da sam piše i briše datoteke, prije ili kasnije će sjebati stvar. Samo što devedesetih nisi imao program koji se pravi pametan dok ti briše /etc/passwd.

Microsoft je izbacio MXC, OS-level sandbox za AI agente, i odmah su se javili OpenAI i Nvidia kao partneri. Što je lijepo. Što je i očekivano, jer su upravo oni ti koji su agente gurali u produkciju bez da su imali pojma što će se dogoditi kad agent odluči da je najbolji način da ti optimizira budžet taj da obriše sve račune na AWS-u.

Cijela priča ima miris deja vua koji bi i najzagriženijem optimistu okrenuo želudac. Sjećate se kad su se pojavili kontejneri? Docker je obećao da će riješiti problem "ali na mom laptopu radi". I riješio ga je, donekle, nakon što je cijela industrija prošla kroz fazu "stavit ćemo sve u jedan container pa ćemo vidjeti". Pa su došli Kubernetes i service meshevi i security politike i pod security policije i cijeli taj cirkus od alata koji su trebali popraviti ono što se ne bi ni pokvarilo da je netko na početku rekao "ajmo prvo razmisliti".

Ista stvar se sad događa s AI agentima. Prvo su ih pustili da rade što hoće, jer je bilo zgodno pokazati investitorima kako agent sam rezervira letove i piše mailove. Onda su shvatili da agent može i sam obrisati bazu podataka, i sam poslati mail s uvredljivim sadržajem, i sam naručiti deset tisuća pizza na adresu direktora. I sad se čude.

MXC je konceptualno genijalan. OS-level sandbox znači da agent vidi samo ono što mu ti dopustiš da vidi. Nema pristupa tvojim datotekama ako mu ne daš ključ. Ne može čitati tvoje mailove ako mu ne daš dozvolu. Ne može brisati system fileove. Zvuči kao zdrav razum, zar ne? Zvuči kao osnovni security princip koji bi svaki programer trebao znati od prvog dana.

Ali problem je što je cijela AI industrija izgrađena na ideji da agenti trebaju imati što više slobode. Jer što je agent korisniji, to ga više koristiš, to više podataka daješ, to više novca zarađuje platforma. Sigurnost je uvijek bila trošak, feature koji se dodaje kad već imaš korisnike i kad ti mediji počnu postavljati neugodna pitanja.

Pogledajte samo OpenAI-jeve ranije pokušaje. Agent koji sam pregledava web, agent koji sam piše kod, agent koji sam izvršava komande. Svaki put su morali dodavati nove slojeve sigurnosti nakon što je netko našao rupu. Svaki put su se pravili iznenađeni. "Nismo očekivali da će agent sam sebi dati admin privilegije." Ma naravno. Kao da nisi očekivao da će ti pas pojesti kobasicu kad je ostaviš na stolu.

A sad dolazi Microsoft s rješenjem koje je trebalo postojati prije nego što su uopće počeli razvijati agente. OS-level sandbox. Izolacija na nivou operativnog sustava. Kontrola pristupa koja nije ovisna o dobroj volji agenta. I svi su oduševljeni. Kao da je netko izumio toplu vodu.

Nvidia se odmah prijavila kao partner, što i ne čudi kad znaš da im je cijeli poslovni model baziran na tome da agenti troše što više GPU resursa. Više agenta = više GPU sati = više novca za Nvidiju. A sigurni agenti su agenti koje možeš pustiti da rade 24/7 bez nadzora, što znači još više GPU sati.

OpenAI je tu iz sličnih razloga. Njihovi agenti su skupi za pokretanje. Svaki agent koji se sruši ili pobriše vlastite podatke je izgubljeni prihod. Ako MXC može spriječiti te incidente, to je direktna ušteda. Plus, naravno, PR vrijednost kad možeš reći "naši agenti su sigurni".

Ali ono što nitko ne spominje je cijena. OS-level sandbox nije besplatan. Svaki layer izolacije dodaje latency. Svaka security provjera usporava agenta. Svaka restrikcija smanjuje funkcionalnost. Pitanje je koliko će agenti biti korisni kad ih staviš u kutiju iz koje ne mogu izaći.

Jer cijela poanta agenta je da može sam donositi odluke. Ako ga previše ograničiš, postaje beskoristan. Ako ga premalo ograničiš, postaje opasan. Balans je tanak, a Microsoft ga pokušava pronaći s alatom koji je, iskreno, trebao postojati prije dvije godine, a ne danas.

I znate što je najgore? Ovo rješenje ne rješava temeljni problem. Problem nije u tome što agenti mogu raditi štetu. Problem je u tome što ih puštamo da rade stvari koje ne razumijemo. MXC je flaster na ranu koju smo sami sebi nanijeli. Lijep flaster, skup, s logotipom Microsofta i Nvidije na njemu. Ali flaster.

Dok god budemo gradili alate koje ne kontroliramo i puštali ih da rade stvari koje ne razumijemo, sigurnosne sandbox kutije će biti samo još jedan layer u hrpi alata koji pokušavaju popraviti ono što se ne bi pokvarilo da smo malo više razmišljali prije nego što smo krenuli u akciju.

A najveća ironija? MXC će vjerojatno postati standard. Svi će ga koristiti. I za pet godina će netko izmisliti nešto još bolje, i opet ćemo se čuditi kako smo mogli biti tako glupi da nismo to smislili ranije.

I tako smo opet izumili kotač. Ovaj put s pretplatom i uvjetima korištenja od 47 stranica.

Izvor: venturebeat.com