Kineska sigurnosna firma lansirala je AI alate i usporedila ih s nuklearnim oružjem

Tri tisuće četiri stotine trideset i dvije ranjivosti je prvi alat pronašao u prvom naletu, što je brojka koja zvuči impresivno dok ne shvatiš da je to otprilike broj bugova koje bi prosječan Microsoftov patch tuesday riješio prije doručka. Ali to nije poanta. Poanta je da je netko u Pekingu odlučio da je cyber sigurnost nova vrsta nuklearnog zastrašivanja, i da je vrijeme da i oni imaju svoju bombu — samo što ova ne radi na uraniju nego na transformerima i tokenima.

U svijetu u kojem su kompanije počele uspoređivati svoje AI alate s nuklearnim oružjem, dogodilo se nešto zanimljivo. Netko je priznao da kasni. Da su kineski modeli iza zapadnih za dvadeset do trideset posto. To je iskrenost koja u tech industriji zvuči kao da je netko na konferenciji ustao i rekao: "Naš proizvod je sranje, ali radimo na tome." Normalno, nitko to ne radi. Ali Kinezi jesu. I to nije skromnost. To je strategija.

Jer kad kažeš da si iza, automatski si definirao utrku. A u utrci, bitno je samo tko prvi stigne — i tko ima bolje financijere. Ako je kineska vlada odlučila da je AI sljedeća arena hladnog rata, vjeruj mi, neće ih zaustaviti činjenica da je njihov model dvadeset posto gluplji. Dvadeset posto gluplji s neograničenim budžetom i državnom infrastrukturom je i dalje jebeno opasan protivnik. Pogotovo kad se sjetiš da su Amerikanci istu stvar radili s poluvodičima, pa su se iznenadili kad su Kinezi počeli proizvoditi čipove koji nisu bili lošiji nego drugačiji.

A onda dolazi onaj dio koji je prava fora. Usporedba s nuklearnim oružjem. To nije slučajno. To je namjerno. To je poruka upućena Washingtonu, Bruxellesu i svima koji misle da je AI samo još jedan softverski alat. Nuklearno oružje je imalo jednu ključnu karakteristiku — ako ga imaš, nitko ti ne može reći što da radiš. Ako ga nemaš, slušaš. Kinezi su upravo rekli: "Mi ćemo imati svoje AI oružje, hvala lijepa, i ne trebaju nam vaše dozvole, licence i etički odbori."

I tu dolazimo do one stvari koju svi vole ignorirati. Dok se Zapad bavio time kako napisati etičke smjernice za AI, Kinezi su gradili infrastrukturu. Dok smo mi raspravljali o tome treba li AI imati prava, oni su testirali modele na stvarnim podacima. Dok su europski regulatori pisali GDPR za AI, Kinezi su već imali alate koji su pronašli tri tisuće četiri stotine trideset i dvije ranjivosti u nečijem kodu. Nije lijepo. Nije elegantno. Ali funkcionira.

Što nas dovodi do pitanja koje bi postavila Cunk: Ako je AI toliko pametan, zašto mu treba usporedba s nuklearnim oružjem da bi ga netko shvatio ozbiljno? Zar nije dovoljno reći "evo alata koji pronalazi sigurnosne rupe" nego moraš odmah povući paralelu s oružjem koje može uništiti čitave gradove? To je onaj trenutak kad shvatiš da tech industrija pati od iste bolesti kao i Hollywood — ako nisi najveći, najbrži i najopasniji, nisi ništa. AI sigurnosni alat nije dovoljan. Mora biti "cyber nuklearno oružje". Inače ne prolazi na board sastanku.

Ali ono što je stvarno zanimljivo nije sama usporedba. Zanimljivo je što ta usporedba govori o mentalitetu. Na Zapadu, kad kompanija lansira novi AI alat, ona govori o "demokratizaciji", "inkluzivnosti" i "transparentnosti". Na Istoku, kad lansiraju istu stvar, govore o "nacionalnoj sigurnosti" i "strateškoj autonomiji". I obje strane su u krivu, naravno. Ali jedna strana je manje licemjerna.

Jer hajmo biti iskreni. Svi ovi alati, bez obzira na to tko ih je napravio, rade istu stvar. Traže uzorke. Predviđaju ishode. Automatiziraju odluke. Razlika je samo u tome tko kontrolira te odluke i na temelju čijih podataka su modeli trenirani. Kinezi koriste svoje podatke. Amerikanci svoje. Europljani nemaju svoje, pa koriste tuđe i čude se što im modeli ne rade kako treba.

I tu dolazi onaj dio koji boli. Dok smo mi u Hrvatskoj ponosni što imamo jedan startup koji radi nešto s AI-jem, Kinezi i Amerikanci se utrkuju tko će prije napraviti alat koji može samostalno hakirati protivničku infrastrukturu. I ne, nije paranoja. To je doslovno ono što su rekli. Cyber nuklearno oružje. To nije metafora. To je opis namjere.

Što znači da će se za pet godina, kad netko hakira tvoju banku, elektranu ili bolnicu, pitati je li to bio američki AI ili kineski AI. Ili, još gore, hoće li itko uopće moći reći. Jer kad alati postanu dovoljno pametni da sami odlučuju koga će napasti i zašto, linija između obrane i napada postaje toliko tanka da je više nema.

A mi? Mi ćemo sjediti i gledati. Kao i uvijek. S našim pretplatom na cloud servis, s našim GDPR obrascima i s našim osjećajem da smo dio globalne zajednice. Dok netko u Pekingu ili Silicijskoj dolini odlučuje hoće li naš podatak biti dio trening seta za sljedeću generaciju alata koji će, eto, slučajno, pronaći još tri tisuće četiri stotine trideset i dvije ranjivosti.

I znaj, kad taj alat pronađe tvoju ranjivost, neće te pitati za pristanak. Neće te pitati ništa. Samo će je zabilježiti. I iskoristiti. Ili neće. Ovisi o tome tko ga je trenirao i na kojim podacima.

A to je, na kraju, jedino što je važno. Tko trenira modele? Na čijim podacima? I zašto?

I dok ti razmišljaš o odgovoru, netko je već lansirao sljedeću verziju. Dvadeset posto bržu. Dvadeset posto pametniju. I potpuno svjesnu da je usporedba s nuklearnim oružjem bila najpametnija marketinška odluka koju su donijeli.

Jer u svijetu u kojem je pažnja najvrjednija valuta, bolje je biti optužen za pretjerivanje nego biti ignoriran.

Izvor: the-decoder.com