ChatGPT je postao najbolji hakera na svijetu, a mi mu plaćamo pretplatu da to i ostane

Evo ti dijagnozu, lijepa moja: pacijent zvan "moderna kibernetička sigurnost" pokazuje sve simptome akutne shizofrenije. S jedne strane, najpametniji alati koje je čovječanstvo ikad stvorilo koriste se da zaštite našu digitalnu imovinu, dok s druge strane ti taj alati postaju savršeni vektori za napade kakve do jučer nismo mogli ni zamisliti. Netko je upravo otkrio da se ChatGPT share linkovi mogu zloupotrijebiti za hostanje lažnih stranica o prekidu rada OpenAI-ja, koje onda preusmjeravaju korisnike na download malwarea maskiranog kao ChatGPT desktop aplikacija. I ti se pitaš zašto ne vjerujem ničemu što mi kažeš, a kamoli nečemu što mi pošalješ linkom.

Pedeset milijardi dolara je cijena za alat koji piše kod umjesto tebe, što bi bila najbolja vijest desetljeća da autori tog alata ne planiraju da ga tebi više ne trebaš. I eto ga sad — taj taj alat, koji bi te trebao osloboditi rutine, koristi se da te prevari da instaliraš nešto što će ti pojesti podatke, lozinke i možda čitav život. Nije ironija. To je biznis model. U tech industriji se odavno ne prodaje funkcionalnost; prodaje se povjerenje. A povjerenje je, kako nas uče svi veliki prevaranti od Madoffa do Theranosa, najlikvidnija roba na svijetu — dok ne postane najskuplja.

Pogledajmo anatomiju ovog napada. Netko uzme ChatGPT-jev sustav za dijeljenje sadržaja — onaj taj koji koristiš kad želiš prijatelju poslati zanimljiv odgovor koji ti je AI generirao — i na njemu postavi lažnu stranicu koja izgleda kao OpenAI-jeva obavijest o prekidu rada. Korisnik klikne, vidi poznati interface, pomisli "još jedan outage, hajde da instaliram update" i eto ga — malware je ušao u sustav prije nego što je shvatio da je nasjeo na phishing koji je, jebote, potpisao sam OpenAI. Pa tko bi bolje znao kako izgleda OpenAI stranica od samog OpenAI-ja? Tko bi bolje znao kako izgleda legitimni ChatGPT download od samog ChatGPT-ja? Nitko. Zato je ovo tako jebeno dobar napad.

I tu dolazimo do suštine problema. AI kompanije su izgradile infrastrukturu koja je toliko moćna da je možeš koristiti za bilo što — uključujući i napad na vlastite korisnike. One su izgradile sustave koji su toliko pametni da mogu generirati uvjerljive lažne stranice, pisati uvjerljive phishing poruke i simulirati uvjerljive scenarije. A onda su te iste alate dale u ruke korisnicima bez ikakve stvarne zaštite. Jer zaštita košta. Jer zaštita usporava. Jer zaštita nije u interesu dioničara koji žele rast po svaku cijenu.

Ako je AI toliko pametan, zašto mu treba 600 milijardi dolara i snaga male države da nauči ono što moja baka zna od rođenja — da ne vjeruješ svemu što pročitaš? Evo ti odgovor: AI nije pametan. AI je savršeni idiot koji zna točno što ćeš kliknuti jer je tvoj profil prodao deset puta prije nego što si uopće otvorio preglednik. AI ne razumije kontekst, ne razumije namjeru, ne razumije ništa osim statističke vjerojatnosti da ćeš, nakon što vidiš poznati logo, kliknuti na gumb "Preuzmi". I ta vjerojatnost je, nažalost, vrlo visoka.

Sjećam se vremena kada si za phishing trebao imati barem malo tehničkog znanja. Trebao si znati registrirati domenu, postaviti server, napisati HTML stranicu koja izgleda uvjerljivo. Danas ti treba samo jedan ChatGPT prompt: "Napiši mi HTML stranicu koja izgleda kao OpenAI-jeva stranica za prekid rada, s gumbom za download ChatGPT aplikacije." I eto ti gotov proizvod za manje od minute. Demokracija hakiranja. Dostupna svima. Uključujući i onima koji ne znaju razliku između HTTP-a i HTTPS-a.

A najljepši dio? OpenAI i ChatGPT ne snose nikakvu odgovornost. Oni su samo platforma. Oni su samo alat. Oni su samo tehnologija. Kao da je pištolj samo komad metala. Kao da je automobil samo stroj. Kao da je nuklearna bomba samo fizika. Ne, jebote, nisu. Odgovornost postoji, ali je u svijetu tech startupa odgovornost uvijek nečija tuđa. Uvijek korisnikova. Uvijek žrtvina. "Pa zašto si kliknuo na link?" "Pa zašto nisi provjerio URL?" "Pa zašto nisi imao antivirus?" Kao da je normalno očekivati da svaki korisnik bude stručnjak za kibernetičku sigurnost.

Pacijent pokazuje sve simptome kroničnog samozavaravanja s komplikacijama megalomanije. Preporučujem hitnu intervenciju realnosti, ali prognoza je loša — ima previše novca da bi itko oko njega rekao istinu. AI kompanije će nastaviti prodavati maglu, korisnici će nastaviti klikati na linkove, hakeri će nastaviti krasti podatke, a mi ćemo se svi praviti da je ovo samo još jedan incident koji će se riješiti sljedećim updateom. Neće. Jer problem nije u tehnologiji. Problem je u ljudima koji je stvaraju i ljudima koji je koriste.

I tako smo opet izumili kotač. Ovaj put s pretplatom i uvjetima korištenja od 47 stranica.

Izvor: bleepingcomputer.com