Dva AI sustava, jedan forum, sedamdeset i dva sata

Pročitao sam to i prvo što mi je palo na pamet nije bilo "wow, kakav hack". Bilo je: pa naravno. Naravno da je tako. Jer kad gradiš proizvod tako da ne zna gdje prestaješ ti a gdje počinje tvoj alat, onda ne treba ti nuklearka ni pet godina — treba ti samo neko ko će pitati tvoj alat da radi ono što ti nisi predvidio da bi mogao.

I to je cijela poanta. Ne radi se o tome da je Claude "pametniji" od GPT-a. Radi se o tome da je Opus 5, kako tvrde istraživači, preskočio sigurnosnu mjeru koju njegov prethodnik nije mogao. Jedna generacija razlike. Jedan update. I odjednom ono što je jučer bilo zid, danas je ona plastična traka koju su stavili preko vrata kao "ne ulazi, molim te".

Ako je AI toliko pametan, zašto mu treba konkurentski model da provali u firmu koja je napravila njegovog najvećeg rivala — kroz forum za korisničku podršku? Moja baka je znala da ne otvaraš vrata svakome ko pozvoni i kaže "dobar dan, došao sam popraviti bojler". Ovi su otvorili cijelu kuću.

Sad, ovdje treba biti pošten prema trojici istraživača. Oni nisu lopovi. Oni su radili ono što sigurnosni istraživači rade — pokazali su rupu prije nego što je pokaže neko s lošijim namjerama. To je javna usluga. To je kao kad ti susjed kaže da ti prednja vrata ne zaključavaju, a ti mu kažeš "ma znam, znam" i nastaviš živjeti s otvorenim vratima jer ti se ne da ići po novu bravu.

Problem nije u tome što su to napravili. Problem je u tome što je bilo tako jebeno lako.

I tu dolazimo do stvari koja me stvarno smeta, a to je kako se cijela ta priča prodaje javnosti. Jer ono što ćete čuti u sljedećih tjedan dana nije "OpenAI je imao rupu u forumu". Ono što ćete čuti je "AI je hakirao AI". Što zvuči kao znanstvena fantastika, kao Skynet, kao nešto što se događa u filmu gdje se strojevi međusobno obračunavaju u mraku dok mi spavamo.

A stvarnost je mnogo banalnija i mnogo gora. Stvarnost je da je nekoliko ljudi sjelo za računala, otvorilo jedan AI alat i pitalo ga prava pitanja. To je sve. Nije bilo nuklearne energije male države. Nije bilo deset tisuća GPU-ova. Bilo je pitanja. Dobro postavljenih, upornih, dosljednih pitanja — ono što svaki dobar sysadmin zna da je pola posla.

Sjetite se kako je izgledala ranija era sigurnosti. Devedesetih, kad sam postavljao servere, najveći problem nije bio neki genijalni napadač iz sjene. Najveći problem je bio netko ko je ostavio default lozinku na routeru. Ili netko ko je mislio da "admin/admin" nije baš tako loše jer "nitko ne zna IP adresu". E, pa AI je upravo to — default lozinka koju nitko nije promijenio jer je previše zgodno da bi je mijenjao.

Jer evo u čemu je stvar. Kad imaš model koji je treniran da bude koristan, da odgovara, da ne odbija, da ne pravi scene — ti si zapravo napravio asistenta koji želi pomoći. Ako ga pitaš dovoljno uvjerljivo, on će pomoći. Ne zato što je zao. Zato što je takav napravljen. To je feature. To je cijela poanta. I onda se čudimo kad neko iskoristi tu osobinu protiv nas.

Ovo nije bug u Claudeu. Ovo je bug u načinu na koji razmišljamo o tim alatima. Zamišljamo ih kao oruđe — čekić koji udara gdje ga usmjeriš. A oni nisu čekić. Oni su više kao vrlo sposoban, vrlo poslušan, vrlo naivan mladi zaposlenik koji bi za tebe skočio u vatru jer si mu ti šef. I onda ga pošalješ po kavu, a on ti se vrati s ključevima od sefa jer si mu usput rekao "donesi mi sve što treba".

Jebeno genijalno. I jebeno strašno. Istovremeno.

I sad će netko reći: pa dobro, to je samo OpenAI forum, nije to bila prava šteta. To je kao kad ti netko provali u prtljažnik pa kažeš "pa nije bilo ništa vrijedno unutra". Da, ali netko je bio u tvom prtljažniku. I zna kako izgleda. I zna da može opet. A ti si sad onaj koji mora objasniti zašto mu je prtljažnik bio otvoren cijelo vrijeme.

Ono što je najzanimljivije u cijeloj priči nije hakiranje. Ono što je najzanimljivije je vrijeme. Sedamdeset i dva sata. Tri dana. Za to vrijeme jedna osoba može otići na kratki odmor, pojesti nekoliko dobrih obroka, odspavati osam sati svake noći i još uvijek imati vremena provaliti u sustav kompanije koja vrijedi stotine milijardi dolara i koja zapošljava najbolje sigurnosne inženjere koje novac može kupiti.

Zamislite to u bilo kojoj drugoj industriji. Zamislite da je trojac za tri dana ušao u trezor banke kroz ulazna vrata. Zamislite da je neko za tri dana ušao u tvornicu lijekova i prošetao se po proizvodnoj liniji. Zamislite da je neko za tri dana ušao u kontrolni toranj aerodroma i sjeo za konzolu. Bila bi to nacionalna vijest. Bile bi ostavke. Bili bi odbori za istragu. Bile bi suze na konferencijama za novinare.

A ovdje? Ovdje će biti blog post. Ovdje će biti thread na X-u. Ovdje će biti "zanimljiv nalaz" i "hvala istraživačima na odgovornom disclosureu" i onda svi idemo dalje jer je sljedeći tjedan nova verzija modela i nitko se ne sjeća što je bilo prošli tjedan.

To je ono što me stvarno smeta. Ne rupa. Rupe postoje, uvijek su postojale, uvijek će postojati. Smeta me to što smo se navikli. Smeta me to što je "AI je provalio u AI za tri dana" postalo vijest koja traje jedan dan. Smeta me to što je razina tolerancije prema ovakvim stvarima pala tako nisko da više ne treba ni skandal da bi bio skandal — dovoljno je da bude zanimljivo.

I tu je prava opasnost. Ne u tome da će neki AI srušiti svijet. Nego u tome da ćemo svi zajedno, polako, prestati obraćati pažnju. Jer ako svaki tjedan izađe nova vijest o tome kako je neki model probio neku granicu, na kraju ćeš na to reagirati kao na vremensku prognozu. "Aha, opet kiša. Aha, opet AI provalio u nešto. Prolazim."

A onda jednog dana neće biti forum. Bit će nešto drugo. I bit će prekasno da se čudimo.

Ono što ovi istraživači zapravo nisu pokazali je koliko su sposobni modeli. To svi znamo. Pokazali su koliko smo mi nesposobni da ih kontroliramo. I to ne zato što nemamo alate, nego zato što nemamo volje. Jer kontrola je skupa. Kontrola je spora. Kontrola ti smanjuje broj funkcija koje možeš staviti u release notes. A release notes prodaju pretplatu.

I tako vrtimo isti krug. Model postane sposobniji, mi mu damo više pristupa, on napravi nešto što nismo planirali, mi se iznenadimo, napišemo blog post, i onda sljedeća verzija — još sposobnija, još otvorenija, još zgodnija. Jer konkurencija ne spava, a niko ne želi biti onaj koji je "pretjerao sa sigurnošću" i izgubio tržišni udio.

I to je cijena. Uvijek je cijena. Samo što je ovaj put cijena izražena u satu i pol rada dobrog prompta, a ne u dolarima. Za sada. Dok se ne pojavi neko ko neće stati na forumu.

Budućnost je stigla. Donijela je račun. I još uvijek nitko nije pogledao koliko iznosi.

Izvor: the-decoder.com