Petnaest stotina dolara i jedna namjerno ranjiva aplikacija

Evo, netko je potrošio lovu da bi napravio ono što bi svaki ozbiljan pentester napravio za manje para i s boljim rezultatima — testirao je da li LLM-ovi mogu probiti namjerno ostavljene rupe. I došao do zaključka koji miriše na istinu: mogu, ali sporo, nespretno i skupo. Koji kurac.

Cijela industrija sigurnosti trenutno prolazi kroz fazu koju bi svaki veteran prepoznao. Sjećate se onih dana kad su antivirusi bili čarobne pilule koje rješavaju sve, pa se ispostavilo da su samo skupljali novac za signature koji su kasnili tri mjeseca? Ista priča. Sada imamo AI koji će, navodno, revolutionirati sigurnost. Revolucionirat će, ali ne na način na koji prodavači zamišljaju. Revolucionirat će tako što će generirati još više lažnih alarma, još više buke, i još više posla za ljude koji stvarno znaju što rade.

Eksperiment je jebeno jasan. Uzeo si aplikaciju, ostavio si u njoj rupe koje bi svaki srednje sposobni haker našao za pola sata, i pustio si LLM-ove da se igraju. Rezultat? Trebalo im je vremena, novca i dosta ručnog usmjeravanja da bi došli do cilja. Nije bilo magije. Nije bilo "AI je sam pronašao nulti dan". Bilo je: "Hej, probaj ovaj SQL injection na ovom endpointu" i LLM je rekao "aha, da, dobra ideja". To nije AI. To je autocomplete na steroidima s čovjekom koji drži mapu.

A najbolji dio? Potrošio je tisuću i pol dolara na API pozive da bi došao do tog zaključka. Tisuću i pol dolara za ono što bi čovjek s Burp Suiteom i malo znanja napravio za nula dolara i jednu kavu. To je cijena koju plaćamo za uvjerenje da je tehnologija čarobna. Nije. Skupa je, spora je, i treba joj netko tko zna što radi da bi uopće funkcionirala.

I tu dolazimo do dijela koji boli. Industrija sigurnosti je uvijek bila zarobljena u začaranom krugu: prodaješ rješenje za problem koji si sam stvorio. Prvo su bili firewalli, pa IDS-ovi, pa SIEM-ovi, pa EDR-ovi, pa XDR-ovi, pa sada AI sigurnosni asistenti. Svaka generacija rješenja rješava probleme prethodne generacije, ali uvodi nove. I svaka generacija košta više. A na kraju dana, i dalje ti treba čovjek koji zna čitati logove i razumije kako aplikacija stvarno radi. To se nije promijenilo od 1995. godine kad sam spajao ljude na internet preko dial-upa i molio se da netko ne proba brute-forceati root lozinku.

LLM-ovi su odlični za generiranje teksta. Odlični su za sažimanje. Odlični su za pisanje koda koji je već negdje napisan. Ali za sigurnost? Za to trebaš razumijevanje, a ne predikciju. Trebaš znati zašto je ta SQL injection opasna, a ne samo da je SQL injection. Trebaš znati kako aplikacija komunicira s bazom, kako se podaci prenose, gdje su cacheovi, gdje su race conditioni. To nije stvar koju ćeš naučiti iz trening podataka. To je stvar koju učiš godinama sjedenja ispred monitora i popravljanja sranja koja su drugi napravili.

A najgore od svega? Cijeli taj narativ o AI-ju koji će zamijeniti sigurnosne stručnjake je taj onaj narativ koji smo čuli za programere. "AI će pisati kod, neće nam trebati programeri." Pa eto, prošlo je dvije godine, i programeri su i dalje tu, samo sada imaju alat koji im pomaže da brže pišu bullshit. Isto će biti i sa sigurnošću. LLM-ovi će pomoći juniorima da brže nauče, pomoći će seniorima da brže testiraju hipoteze, ali neće zamijeniti nikoga tko stvarno zna što radi. Jer ono što stvarno znaš ne možeš naučiti iz teksta. To učiš na greškama. Svojim i tuđim.

I zato je ovaj eksperiment vrijedan pažnje. Nije vrijedan pažnje zato što je otkrio nešto novo. Vrijedan je pažnje zato što je potvrdio ono što svatko tko je ikada radio s aplikacijskom sigurnošću već zna: alati su alati. LLM je alat. Kao što je Burp Suite alat. Kao što je SQLmap alat. Razlika je u tome što SQLmap ne košta tisuću i pol dolara da bi probao jednu SQL injection. I što SQLmap ne trebaš hraniti s "molim te, probaj ovaj endpoint" kao da je pas koji čeka komandu.

Ako išta, ovaj eksperiment pokazuje koliko smo daleko od autonomnog AI sigurnosnog rješenja. Ne zato što LLM-ovi nisu pametni. Zato što sigurnost nije pamet. Sigurnost je dosada. Sigurnost je provjeravanje istog endpointa stoti put jer znaš da negdje postoji greška. Sigurnost je čitanje logova u tri ujutro. Sigurnost je onaj osjećaj kad shvatiš da je netko već unutra, i sad moraš shvatiti kako i otkad. To nije stvar koju će riješiti model koji predviđa sljedeću riječ.

I zato, dok netko potroši tisuću i pol dolara da bi dokazao ono što već znamo, industrija će nastaviti prodavati maglu. Prodavat će AI sigurnosne asistente koji će koštati više nego cijeli tim ljudi. Prodavat će priču o tome kako AI može sam pronaći ranjivosti. A mi ćemo i dalje sjediti i popravljati sranja koja su drugi napravili, samo sada uz pomoć alata koji košta više nego što smo ikada zamišljali.

Ali hej, barem je netko platio da bi nam pokazao istinu. Hvala mu na tome. Sljedeći put kad netko kaže da AI može sam hakirati tvoju aplikaciju, pitaj ga koliko je platio API pozive da bi to dokazao. Jer ako je odgovor više od nula, laže. Ili je platio da bi dokazao da nešto ne radi kako treba. Što je, na kraju krajeva, jedino što sigurnosni alati ikada rade.

Izvor: kasra.blog