Deset stvari koje su važne u umjetnoj inteligenciji, a nitko ne zna što točno znače

Šest stotina milijardi dolara godišnje. To je novac koji se pumpa u mašineriju koja obećava da će riješiti sve probleme čovječanstva, a u praksi se najčešće koristi za generiranje slika mačaka u svemirskim odijelima i pisanje mailova koji zvuče manje uvjerljivo od onih koje šalje tvoj šef nakon trećeg whiskya. Industrija je dosegla točku gdje je buka tolika da se signal više ne može čuti, gdje svaka nova objava nosi prefiks "revolucionarna", a svaki kritičar dobiva epitet "luddit". U tom vrtlogu, pokušaj izdvojiti deset stvari koje su zaista važne zvuči kao zadatak za svetog Patrika – treba istjerati zmije iz vrtla koji je sam po sebi jedna velika zmija koja jede vlastiti rep.

Prva stvar koja je važna, kažu, je etika. Riječ koja se izgovara s tolikom svečanošću da bi pomislio kako su svi ti CEO-ovi odrasli na predavanjima Immanuela Kanta, a ne na profitnim marginama i quarterly earnings reportima. Etika u AI-u je postala jezik kojim se opravdava monopol – mi smo etični, naši konkurenti nisu, stoga dajte nam još tržišnog udjela i još podataka. To je kao da Ferrari tvrdi da je etičniji od Toyote jer ima manje emisija – po kilometru, naravno, ali samo ako zanemariš činjenicu da ga voziš samo nedjeljom i da košta koliko stan u Zaprešiću. Sve te odbore, načela i smjernice dizajnirali su upravo ljudi koji su odlučili da je prihvatljiv rizik pustiti algoritam da upravlja zapošljavanjem ili odobravanjem kredita. Njihova etika je u najboljem slučaju naknadna dorada, poput farbanja fasade na zgradi čiji su temelji već prožeti plijesni.

Druga važna stavka je regulacija. Europska unija je, svojom nesalomivom brzinom geopolitičke kornjače, uspjela donijeti AI Act. Dokument od stotina stranica koji definira što je "visoki rizik" i što nije, kao da je rizik nešto što možeš odrediti checkboxom. Istovremeno, SAD se igra igre "čekajmo i gledajmo", što je u prijevodu "dok mi ne izrodi još par unicorna". Regulacija u tech-u nikad nije bila o zaštiti građana; ona je o uspostavljanju cjenika. Ako si dovoljno velik, možeš si priuštiti tim od dvjesto odvjetnika koji će tešku regulaciju pretvoriti u blagi nabor na tvojoj financijskoj bilanci. Ako si mali, ta ista regulacija je zid od opeke. Rezultat je predvidljiv: veliki postaju nepogrešivi, a mali nestaju. Tržište se konsolidira pod par zastava, a svi plješću "sigurnosti". Jebena sigurnost.

Treća točka na listi je hardverska suverenost, odnosno borba za čipove. Cijeli svijet je shvatio da je sposobnost proizvodnje naprednih poluvodiča važnija od nuklearnog arsenala. Rat za tajvanske tvornice je jedini rat na koji se svi slažu – i desnica i ljevica, i militaristi i pacifisti. Jer bez tih čipova, tvoj pametni telefon postaje glupa ogrlica, a tvoj nacionalni AI projekt postaje skup PDF-ova u oblaku koji ne pripada tvojoj državi. Ova ovisnost je toliko apsurdna da bi bila smiješna da nije tako jeziva. Cijeli narativi o tehnološkoj neovisnosti država se sudaraju s činjenicom da gotovo sve što je važno dolazi s otoka koji je u trajnom političkom limbu. To je kao graditi palaču na temeljima od šećera i onda se čuditi što se topi kad kiša padne.

Četvrta stavka, koja se uvijek spominje, je "odgovorna upotreba". Ovo je najomiljeniji floskul svih koji nemaju što reći. Odgovorna upotreba je ono što se događa između trenutka kada investitori daju novac i trenutka kada shvate da taj novac neće vidjeti. To je proces u kojem se angažiraju vanjski savjetnici, pišu politike koje nitko ne čita, i drže radionice za zaposlenike koji gledaju u sat. Prava upotreba tehnologije nikad nije odgovorna; ona je ili profitabilna ili revolucionarna, a često je i jedno i drugo. Tražiti od korporacije da bude odgovorna je kao tražiti od vuka da bude vegetarijanac – možeš mu staviti salatu u čeljust, ali će on i dalje gledati ovce koje trče okolo. Dinamika je jednostavna: pritisak za rastom i pritisak za odgovornošću su u vječnom sukobu, a rast uvijek pobjeđuje na kraju kvartala.

Peto mjesto zauzima pitanje pristranosti podataka. Velika afera, veliki problem. Algoritmi uče iz ljudskih podataka, a ljudi su, iznenađenje, pristrani. Dakle, strojevi reproduciraju naše predrasude, ali ih čine skalabilnima i sistemskima. Rješenje koje se nudi je čišćenje podataka, što je ekvivalent pokušaja pročišćavanja oceana s čašom i filterom za kavu. Temeljni problem nije u podacima, nego u tome što se tehnologija prodaje kao objektivna, kao nešto što je iznad ljudske pogreške. To je laž. AI nije ništa više od ogledala koje pokazuje društvu njegovu najružniju facu, ali u visokoj rezoluciji i s mogućnošću analize u stvarnom vremenu. Borba protiv pristranosti je zapravo borba protiv ljudske prirode, a to je borba koju, dosad, ljudi uvijek izgube.

Šesta važna stvar je transparentnost, odnosno "objašnjivost" AI-a. Zahtjev da složeni modeli budu razumljivi običnom smrtniku. Ovo je možda najveći vic u cijeloj industriji. Ljudi koji su napisali kod ne mogu u potpunosti objasniti kako njihov model donosi odluke na najdubljoj razini – to je doslovno crna kutija. A onda se od istih tih ljudi traži da naprave korisničko sučelje koje će to magično učiniti jasnim. Rezultat su opisi poput "model je identificirao uzorke u podacima koji upućuju na visok rizik". Što znači: ne znamo točno, ali crveno svijetli. Tražiti potpunu transparentnost od tehnologije čija je prednost upravo u tome što radi neintuitivne veze izvan ljudskog kapaciteta je kao tražiti od symphonijskog orkestra da objasni svirku koristeći samo tri note. Suština će uvijek pobjeći.

Sedam – utjecaj na radnu snagu. Ovdje se dijele panegirici i apokalipsa. Jedni govore o oslobađanju od monotonih poslova, drugi o masovnoj nezaposlenosti. Istina je negdje u sredini, a to znači da će biti ružno i neugodno za sve. AI neće u potpunosti zamijeniti ljude; on će učiniti većinu ljudi jeftinijima i zamjenjivijima. To nije scenarij iz Terminatora; to je scenarij iz korporativnog sastanka gdje se donosi odluka o automatizaciji customer supporta. Nema pucnjave, nema robotičkih pobunjenika. Samo tišina nakon što se ugase posljednje lampe u call centru, i Excel tablica koja pokazuje uštedu od trideset posto na troškovima rada. Revolucija će biti dosadna, a gubitnici će biti oni koji su mislili da su previše pametni da bi ih stroj mogao nadomjestiti.

Osma točka je ekološki otisak. Treniranje velikih modela troši energiju kao mala država. Ovo je najveća hipokrizija zelene tranzicije. S jedne strane, svi govore o održivosti, a s druge strane, najveći tech giganti grade podatkovne centre u pustinjama i troše vodu iz podzemnih izvora da ohlade servere koji služe za generiranje memeova. Pitanje je jednostavno: je li vrijedno toliko resursa trošiti na tehnologiju čija je primarna upotreba, trenutno, komercijalna? Odgovor industrije je: da, jer stvaramo budućnost. Budućnost, po svemu sudeći, će biti vrlo vruća i vrlo suha, ali ćemo imati izvrsne chatbote koji će nam to moći opisati u stihovima Shakespearea.

Deveti element je geopolitička utrka, koja se svodi na dvije sile: SAD i Kina. Europa je tu kao treći koji pokušava praviti pravila za igru u koju ga nitko nije pozvao. Ova utrka nije o tome tko će napraviti humanoidnijeg robota; ona je o tome tko će postaviti standarde. Tko će reći što je prihvatljivo, što je sigurno, što je pošteno. Pobjednik te utrke neće imati samo tehnološku prednost; on će imati moć definiranja stvarnosti za sve ostale. To je moć za koju su se vodili ratovi kroz povijest. Sada se taj rat vodi u laboratorijima i odborima za standardizaciju, a oružje su algoritmi i benchmarkovi. Najstrašnije je što većina ljudi ne shvaća da je taj rat uopće u tijeku.

I konačno, deseto: javno povjerenje. To je resurs koji se troši brže nego što se može nadoknaditi. Svaki skandal, svaki promašaj, svaki primjer zloupotrebe erodira ono malo povjerenja što je ostalo. A bez povjerenja, ova cijela građevina se ruši. Ljudi neće davati svoje podatke, neće prihvaćati automatizirane odluke, neće tolerirati greške. Industrija se ponaša kao da je povjerenje nešto što može kupiti marketinškom kampanjom – "AI za dobrobit čovječanstva". Ali povjerenje se ne kupuje; ono se zarađuje dosljednošću, iskrenošću i odgovornošću. Tri stvari koje su u tehnološkoj industriji oskudne kao snijeg u Dubrovniku u kolovozu.

I tako stojimo, s listom od deset točaka koje su sve važne, a nitko ne zna što učiniti s njima. To nije plan; to je popis žalbi. To nije putokaz za budućnost; to je epitaf za sadašnjost koju smo već upropastili. Najvažnija stvar u AI-u upravo sada nije na toj listi. To je jednostavna, neugodna činjenica da gradimo oružje koje ne znamo kontrolirati, prodajemo rješenja za probleme koje smo sami stvorili, i tražimo mudrost od strojeva jer smo svoju vlastitu potrošili na kratkoročnu dobit. Lista od deset stavki je samo način da se organizira haos, da se stvori iluzija kontrole. Ali haos je i dalje haos, samo s bullet pointovima.

Ako moraš napraviti listu stvari koje su važne, vjerojatno si već izgubio poantu.

Izvor: technologyreview.com