AI kao vojni savjetnik

Trideset godina u IT-u naučilo me samo jedno: kad ti netko kaže da je softver dovoljno pametan da donosi odluke umjesto tebe, provjeri tko će biti kriv kad sjebe. U vojsci, ta lista je kratka. U AI industriji, ta lista ne postoji.

Zamisli da si general. Sjedneš za stol, ispred tebe ekran, na ekranu model koji je progutao svaki ratni izvještaj od Napoleona do danas. On ti kaže: "Ciljaj ovdje, ne ovdje." Pitaš ga zašto. On ti odgovori s vjerojatnošću od 94,7 posto i referencom na podatkovni set koji je netko označio u nekoj zemlji s čijom politikom se ne slažeš ni po kojoj osnovi. I što sad? Poslušaš ga jer je brojka velika i jer generali ne vole ispasti glupi pred strojem. Ili ga ne poslušaš, uletiš u nevolju, pa ti na savjetu kažu: "Trebao si slušati AI."

Ovo nije znanstvena fantastika. Ovo je ono što MIT Technology Review pakira u svoj novi eBook o tome kako vojske koriste AI modele za donošenje odluka. Šest priča, od travnja 2025. do travnja 2026., ažurirano najnovijim događajima. Ako nisi platio pretplatu, nećeš ni saznati koliko je blizu trenutak kad će stroj odlučivati o životu i smrti — jer, naravno, znanje se naplaćuje. Kao i sve ostalo u svijetu koji prodaje budućnost kao premium paket.

Problem nije u tehnologiji. Problem je u ljudima koji je prodaju. taj oni koji su ti prije deset godina obećavali da će blockchain riješiti glad u svijetu, a završili su s NFT slikama majmuna koje vrijede koliko i screenshoti. Sada su se prebacili na AI, a publika je ista — investitori koji ne znaju razlikovati između strojnog učenja i mađioničarskog trika, generali koji misle da je algoritam bolji od iskustva, i političari kojima je jedino važno da netko drugi snosi odgovornost kad pukne.

Iako vojske eksperimentiraju s AI-jem već godinama, ovo je drugačije. Ovo nije autonomni dron koji puca na metu koju je prepoznao na kameri. Ovo je model koji sjedi za stolom i kaže: "Predlažem da napadnemo s istoka, ne sa sjevera." A general, umjesto da pita zašto, kaže: "OK." Jer je brže. Jer je jeftinije. Jer ne moraš hraniti savjetnike. Jer ne moraš slušati njihove moralne dileme.

I tu dolazimo do srži problema. AI nema moralne dileme. AI nema savjest. AI ima ciljnu funkciju i podatke. Ako su podaci smeće, i odluka je smeće. Ako je ciljna funkcija "minimiziraj gubitke", AI će predložiti ono što matematički ima smisla, bez obzira na ljudski faktor. To je ko da pitaš kalkulator da ti kaže je li moralno dignuti kamate na kredit. Kalkulator će ti dati brojku. Ti odlučuješ. Samo što u vojnom kontekstu, ta odluka ne znači gubitak novca. Znači gubitak života.

Nitko ne postavlja pitanje koje bi trebalo postaviti: tko je odgovoran kad AI pogriješi? Ako je model preporučio bombardiranje škole jer je oznaka "civilni objekt" bila loše mapirana, tko ide na sud? Programer koji je napisao kod? Kompanija koja je prodala softver? General koji je kliknuo "Potvrdi"? Ili ćemo, kao i uvijek, reći da je to "kolateralna šteta" i nastaviti dalje, jer je vojno-industrijski kompleks prevelik da bi ga zaustavila jedna greška?

Ono što je posebno zabrinjavajuće jest brzina kojom se ovo uvodi. Prije pet godina, AI u vojsci je bio autonomna letjelica koja puca na metu. Danas je to savjetnik koji utječe na strategiju. Za pet godina, bit će to zapovjednik. Ne zato što je AI pametniji od ljudi, nego zato što je brži, jeftiniji i ne zahtijeva beneficije. Vojni proračuni su uvijek gladni ušteda, a AI je savršen alat za rezanje troškova. Trošak ljudskog savjetnika je plaća, mirovina, psihološka podrška. Trošak AI savjetnika je server i struja. Računica je jednostavna. I hladna.

I tu dolazimo do one stvari koju nitko ne želi priznati: AI u vojsci nije alat za bolje odlučivanje. To je alat za brže odlučivanje. A brže ne znači bolje. Brže znači da imaš manje vremena za razmišljanje, manje vremena za provjeru, manje vremena za povlačenje kad shvatiš da si pogriješio. U svijetu u kojem je brzina postala vrlina, AI je savršeni igrač. Ali rat nije igra. Rat je ono što se dogodi kad netko pogriješi i nema tipke za "undo".

Pedeset milijardi dolara je iznos koji su vojni proračuni već potrošili na AI sustave. To je više nego što je većina firmi u Silicijskoj dolini vrijedna. I za taj novac, dobili smo modele koji su pametni koliko i student prve godine koji je pročitao Wikipedia članak o Clausewitzu. Pametni, ali bez iskustva. Pametni, ali bez intuicije. Pametni, ali bez osjećaja za kontekst. A rat je, na kraju krajeva, samo kontekst. Tko ga bolje čita, taj pobjeđuje.

I zato, dok MIT Technology Review prodaje svoj eBook po cijeni koja je vjerojatno pristupačnija od šalice kave u San Franciscu, razmisli o ovome: sljedeći put kad netko kaže da je AI budućnost vojnog odlučivanja, pitaj ga tko će biti kriv kad ta budućnost dođe s računom. Jer doći će. I račun neće biti u dolarima.

Izvor: technologyreview.com