AGI je stigao, kažu.

Koji kurac to znači?

To je kao da ti kuhar kaže da je jelo spremljeno, a onda doda da odlučiš sam hoćeš li se otrovati. Ili kao da ti mehaničar vrati auto i kaže: "Kočnice rade, ali vi procjenite hoćete li se voziti niz Učku." Čovjek koji je proveo godine gradeći sustav koji bi trebao biti pametniji od ljudi, u ključnom trenutku — kad treba potpisati ono što je napravio — povlači se u maglu subjektivne procjene. Ili je genijalan marketing, ili se nešto gadno ne poklapa.

Brojke su lude. Govorimo o modelu koji je, ako je vjerovati priopćenjima, prošao dobrovoljni pregled prije izlaska u Sjedinjenim Američkim Državama, a Europska unija ga već gleda kroz članak 92. To je onaj dio AI akta koji omogućuje regulatorima da zatraže podatke o sustavima opće namjene kad posumnjaju da nešto smrdi. I znate što? Miris se širi. Ne zato što je netko nešto pogriješio, nego zato što je cijela priča o AGI-ju postala najskuplja igra mačke i miša u povijesti tehnologije.

Sjetimo se kako je to izgledalo devedesetih, kad smo mi u Kvarner Netu spajali Rijeku na internet. Bilo je to doba kad si iskopao rov, provukao kabel, i ako je svjetlo na modemu treperilo kako treba — imao si posao. Nijedan od nas nije tvrdio da je izumio komunikaciju s mrtvima. Bili smo obični zanatlije koji su znali da je veza dobra onoliko koliko je dobar zadnji metar do korisnika. Danas, u Silicijskoj dolini, zadnji metar više nije bakreni kabel — to je tvoje uvjerenje da ono što gledaš stvarno misli ono što kaže.

Astra, prema onome što se priča, radi stvari koje zvuče impresivno. Rješava probleme, planira, izvršava zadatke na način koji nadilazi puko generiranje teksta. Ali evo male kvake koju svi preskaču kao da je mrtva mačka na cesti: definicija AGI-ja koju koriste — "sustavi koji su općenito pametniji od ljudi" — postavljena je tako da je nitko ne može provjeriti. Tko to mjeri? Koji test? Koja kontrolna grupa? Moja baka iz Krka je općenito pametnija od mene kad se radi o tome što će biti s vremenom sutra, ali nijedan novinar ne pita nju je li AGI stigao.

Zamislite scenu u sjedištu, kako je lako mogla izgledati. Bijele ploče, markeri, prezentacija od devedeset slajdova na kojoj grafovi rastu kao dug studenta koji je mislio da će kripto riješiti stvar. Netko podigne ruku i pita: "Možemo li to nazvati AGI-jem?" Slijedi šutnja koja traje malo predugo da bi bila prirodna. Glavni čovjek gleda u stol, zatim u prozor, zatim natrag u stol. I tada izgovara onu rečenicu o čitatelju koji treba sam odlučiti. To nije odgovor tehničara. To je odgovor odvjetnika.

Jer stvar je u ovome: ako kažeš da je AGI stigao i ne bude, izgubit ćeš vjerodostojnost. Ako kažeš da nije stigao, a investitori su uložili milijarde u priču da jest — izgubit ćeš novac. Zato se bira treći put: proglašavaš pobjedu, ali je odmah omataš u dozu skepticizma koja ti omogućuje da se kasnije izvučeš. "Ja sam samo rekao da mislim da jest. Vi ste odlučili da vjerujete." To je poker koji se igra na razini na kojoj svaka riječ ima cijenu, a svaka šutnja kamatu.

Pitanje koje nitko ne postavlja, a trebalo bi ga postaviti glasno i javno, glasi: ako je model doista pametniji od ljudi, zašto mu treba dobrovoljni pregled prije izlaska na tržište? Zar pametniji od ljudi ne bi sam znao što smije, a što ne smije? Zar ne bi sam procijenio rizike bolje od bilo kojeg regulatora? Ili je istina jednostavnija i ružnija — da je riječ o vrlo naprednom alatu za predviđanje sljedeće riječi koji je dobar u onome za što je treniran, a izvan toga se ponaša kao pijanac koji tvrdi da vozi bolje trijeznih?

Najbolji dio cijele priče dolazi od Europljana. EU je, naime, procijenila da bi mogla zatražiti dodatne evaluacije prema članku 92. I gle čuda — kompanija je već prošla dobrovoljni pregled u Americi, što znači da je unaprijed kalkulirala s regulatorima s obje strane Atlantika. To nije tehnologija. To je diplomacija hladnog rata s modelima umjesto bombi. Svaka strana želi kontrolirati priču, a javnost — mi, obični smrtnici koji ćemo sutra dobiti ovaj alat u pretplati od dvadeset dolara mjesečno — gledamo predstavu i plješćemo na znak.

Sjećam se kad sam devedesetih postavljao prve poslužitelje za elektroničku poštu u Rijeci. Ljudi su pitali hoće li im e-mail jesti doručak. Bilo je to smiješno pitanje, ali iskreno. Danas pitanje glasi hoće li im umjetna inteligencija pojesti posao, a odgovor koji dobivaju od ljudi koji su je napravili je — "odlučite sami". Lijepo. Jako lijepo. Kažu da je pametnija od nas, pa nas ostavljaju da sami donosimo odluke o stvarima koje ne razumijemo, a koje su oni napravili i koje bi, po njihovim riječima, mogle biti pametnije od nas. To je kao da ti pilot kaže da je avion sposoban letjeti sam, a tebi ostavlja da odlučiš hoćeš li skočiti s padobranom.

Jedina istina koja se može izvući iz cijele ove predstave jest ona o ljudskoj prirodi. Tehnologija se ne mijenja. Ljudi se ne mijenjaju. Ono što se mijenja jest veličina uloga. Devedesetih si mogao prodati maglu za pedeset tisuća maraka. Danas prodaješ maglu za pedeset milijardi dolara, i magla je ista, samo je ambalaža ljepša. Model koji ne zna reći "ne znam" uvijek će reći ono što želiš čuti. Isto vrijedi i za ljude koji ga prodaju. Razlika je u tome što model nema dnevni red, a čovjek iza njega itekako ima.

Ako je AGI stvarno stigao, svijet će se promijeniti na načine koje ne možemo predvidjeti. Ako nije, imamo još jedan skupi demo koji će završiti u arhivi tehnoloških razočaranja, pored Segwaya, Google Glassa i one ere kada su svi mislili da će metaverse biti naša druga kuća. U oba slučaja, netko će zaraditi. Pitanje je samo hoće li oni koji su platili — pretplatom, podacima ili pažnjom — dobiti ono što im je obećano.

Najgore u svemu nije laž. Laž je stara koliko i trgovina. Najgore je neodgovornost koja se maskira u skromnost. Reći "ostavljam čitatelju da odluči" u trenutku kad se radi o tehnologiji koja bi mogla preoblikovati ekonomiju, obrazovanje, zdravstvo i politiku — to nije poniznost. To je kukavičluk tehničara koji zna da je napravio nešto veliko, ali ne zna što će to točno napraviti ljudima, pa unaprijed skida odgovornost sa svojih leđa.

Ako je model doista pametniji od ljudi, ne treba mu dopuštenje čitatelja da to bude. Ako nije, onda je izjava o AGI-ju reklama koja će se prodavati godinama. U oba slučaja, najpametnija stvar koju možemo učiniti kao društvo jest prestati postavljati pitanja ljudima koji imaju interes lagati, a početi postavljati pitanja koja testiraju stvarne sposobnosti. Ako je pametniji od nas, neka dokaže. Neka riješi problem koji mi ne možemo. Neka nam objasni zašto smo ovdje. Neka napiše zakon koji je bolji od onoga koji su pisali birokrati.

Do tada, sve ovo ima miris parfema na pokvarenom mesu. Sjajna prezentacija, skupi ljudi, ozbiljne fraze o budućnosti čovječanstva — a ispod svega, jedan mali, sivi, tehnički detalj koji nitko ne želi spomenuti: ne postoji test koji može dokazati da je stroj pametniji od čovjeka na način na koji to tvrde. I dok taj test ne postoji, svaka izjava o AGI-ju je vjerska objava, a ne znanstvena činjenica. A vjerske objave, kao što znamo iz povijesti, najčešće služe onima koji ih izgovaraju.

AGI je stigao. Bar tako kažu ljudi koji ga prodaju. Ako moraš objasniti zašto tvoj proizvod nije prijevara, vjerojatno jest.

Izvor: thenextweb.com