MLflow rupa: kad AI platforma propusti hakere kroz vrata

Tisuću i jedna ranjivost, pa nijedna pametna. Američka agencija za kibernetičku sigurnost, institucija koja bi trebala biti vrhunac digitalne obrane, upravo je upozorila na kritičnu rupu u MLflowu, open-source platformi za upravljanje strojnim učenjem, koju su napadači već počeli koristiti. Ne u laboratoriju, ne u teoriji. U divljini, s konkretnim metama i vjerojatno konkretnim žrtvama koje još ne znaju da su žrtve.

MLflow je, za one koji ne žive u podrumu s UPS-om i tri monitora, platforma koja timovima omogućuje da prate eksperimente, verzioniraju modele i upravljaju životnim ciklusom strojnog učenja. Drugim riječima, alat koji koriste ljudi koji grade AI sustave. A sada je taj alat postao ulazna vrata za napadače koji žele infiltrirati upravo one tvrtke i institucije koje se bave umjetnom inteligencijom. Ironija je toliko gusta da bi se mogla rezati nožem za maslac.

CISA je, dakle, dodala ovu ranjivost na svoj popis poznatih iskorištenih ranjivosti, što znači da savezne agencije imaju rok do kraja mjeseca da je zakrpaju. Tri tjedna da se riješi problem koji su napadači već počeli iskorištavati. Tri tjedna u kojima svaki dan znači još jednu priliku za one koji su očito brži, spremniji i pametniji od institucije koja bi nas trebala štititi. Ako itko još sumnja u to tko je u ovom igranju u prednosti, neka pogleda rokove koje agencije same sebi zadaju.

Ono što je posebno zabrinjavajuće jest da MLflow nije niša. Platforma ima desetke tisuća zvjezdica na GitHubu, koriste je timovi u velikim tehnološkim kompanijama, istraživačkim institucijama i startupima koji misle da su sigurni jer su mali i nebitni. A upravo su oni najbolja meta. Velike kompanije imaju sigurnosne timove, redovne pen-testove i procedure za hitne slučajeve. Mali timovi imaju rokove, nedostatak ljudi i uvjerenje da ih nitko neće napasti jer nemaju što ukrasti.

Ta logika je jednako pametna kao ona da ne zaključavaš vrata stana jer nemaš ništa vrijedno. Napadači ne traže vrijednost koju ti posjeduješ. Oni traže vrijednost koju mogu stvoriti od tvoje infrastrukture. Tvoj server s MLflowom može postati čvor u botnetu, platforma za rudarenje kriptovaluta ili baza za napade na nekog trećeg. Tvoja nebitnost je upravo ono što te čini savršenom metom — jer znači da te nitko ne gleda.

Cijela ova priča ima i dublji, gotovo filozofski sloj koji vrijedi razmotriti dok ispijamo kavu koja se hladi brže nego što se zakrpe distribuiraju. Industrija umjetne inteligencije prodaje nam priču o budućnosti u kojoj će strojevi rješavati naše probleme, optimizirati naše procese i čuvati našu sigurnost. A ispostavilo se da su alati kojima gradimo tu budućnost napravljeni od istog krhkog materijala kao i sve ostalo što je čovjek ikada napravio — nedovoljno testirano, prebrzo objavljeno i prepušteno na milost i nemilost onima koji imaju više vremena i lošije namjere.

Pritom ne mislim da je MLflow posebno loš proizvod ili da su njegovi developeri nemarni. Naprotiv, open-source zajednica radi ono što radi najbolje — objavljuje kod, prikuplja prijave grešaka i izdaje zakrpe. Problem je u sustavu koji je stvorio okruženje u kojem se sigurnost tretira kao trošak koji treba minimizirati, a ne kao investicija koju treba maksimizirati. Problem je u kompanijama koje svojim timovima šalju modele u produkciju prije nego što su revidirani. Problem je u nama koji smo prihvatili da je brzina važnija od pouzdanosti.

Sjećam se devedesetih, kada smo postavljali prve servere na Kvarneru i mislili da smo bogovi jer smo znali konfigurirati BIND i sendmail. Sigurnost je tada bila jednostavna stvar — zaključaj vrata, ne diraj config ako radi, i nadaj se da nitko neće otkriti da si ostavio root lozinku na sticky noteu ispod tipkovnice. Danas su ti sticky noteovi postali cloud ključevi, a tipkovnice su zamijenjene API-jima, ali mentalitet je ostao taj. Otvori, objavi, zakrpaj ako stigneš.

Razlog zašto ova vijest nije samo još jedna u nizu sigurnosnih upozorenja jest što se događa u trenutku kada se cijela industrija utrkuje u implementaciji umjetne inteligencije u sve, od zdravstvenih sustava do bankovnih aplikacija. Tvrtke se natječu tko će brže integrirati velike jezične modele, tko će prije automatizirati procese, tko će prvi isporučiti AI rješenje koje će impresionirati investitore. A u toj utrci, sigurnost je usputna stanica koju preskačeš jer ti se žuri.

Vlade su odlučile da će regulirati umjetnu inteligenciju, Europska unija je izglasala zakone, kompanije su objavile etičke smjernice, a opet se ispostavlja da je najveća prijetnja AI revoluciji — obična, klasična, dosadna ranjivost u softveru koji koristiš za izgradnju AI sustava. Ne filozofska rasprava o svijesti strojeva, ne apokaliptični scenariji o robotima koji preuzimaju svijet. Obična rupa u kodu, koju je netko već pronašao i iskoristio dok su se drugi bavili važnijim stvarima.

Pacijent pokazuje sve simptome kroničnog samozavaravanja s komplikacijama megalomanije. Industrija koja tvrdi da gradi budućnost još uvijek ne zna osigurati sadašnjost. Preporučujem hitnu terapiju realnošću, ali prognoza je loša — previše je novca u igri da bi itko ozbiljno zastao i razmislio o tome što radi.

Ako je umjetna inteligencija toliko pametna, zašto joj treba ljudska agencija da objavi upozorenje o ranjivosti u alatu kojim se ta ista inteligencija gradi? I zašto ta agencija daje tri tjedna roka za zakrpu kada napadači očito ne čekaju nikakve rokove?

Izvor: bleepingcomputer.com