Nuklearna bomba je bila jednostavnija.

Ozbiljno. Ljudi su se okupili u pustinji Novog Meksika, napravili spravu koja može uništiti grad, i onda su se — gle čuda — dogovorili da je ne koriste. Ne zato što su bili dobri ljudi, nego zato što su shvatili da će ih, ako je iskoriste, netko drugi iskoristiti na njima. Hladni rat je bio racionalan. Uspostavili su mehanizam, potpisali ugovore, izgradili institucionalni okvir koji je, usprkos svim manijacima s prstom na tipki, uspio spriječiti globalni Armagedon. Sedamdeset godina relativnog mira, što je u ljudskoj povijesti gotovo čudo.

A sad dolazi netko i kaže da bismo istu stvar trebali napraviti s umjetnom inteligencijom.

I prva pomisao je: pa naravno, to je jedino razumno. Druga pomisao je: koji kurac, pa mi jedva uspijevamo dogovoriti tko će platiti parking ispred zgrade, a ti bi htjela globalni non-proliferacijski režim za tehnologiju koja se mijenja brže nego što prosječni političar uspije izgovoriti riječ "regulativa"?

To je ta ironija koja boli. Centralne banke su institucije koje su zadužene za stabilnost. Kad šefica Europske centralne banke ustane i kaže da bi AI mogao izazvati financijske krize i da treba hladnoratovsku kontrolu naoružanja, to nije samo vijest — to je dijagnoza s dna karte intenzivne njege. Jer ljudi koji su normalno najkonzervativniji, najsporiji i najoprezniji na svijetu — bankari — sad viču da je vlak izašao iz tračnica. I to ne viču tiho. Viču na konferencijama u Veneciji, s mikrofonima i kravatama, a iza njih je more koje se diže.

Pogledajmo što se zapravo događa. Imamo tehnologiju koja je, u svojoj srži, alat za predviđanje i optimizaciju. Super. Problem je što taj alat, kad ga staviš u ruke financijskom sustavu koji je već ionako savijen u čvor od derivata, leveragea i algoritamskog trgovanja, postaje nešto sasvim drugo. Zamisli da daš petogodišnjaku da vozi Ferrari — ne zato što je zločest, nego zato što ne razumije što znači 300 na sat. E, pa mi smo sad dali AI-ju da vozi globalnu ekonomiju, a on ne razumije što znači "sistemski rizik". On samo vidi obrazac. I trči prema njemu. Svi istovremeno. U istom smjeru.

I što se dogodi kad svi trče u istom smjeru? Dogodi se 2008. Samo brže. Puno brže.

Jer 2008. je bila kriza koju su izazvali ljudi koji su bili pohlepni, ali su barem trebali spavati. Njihove odluke su donosili ljudi koji su, u gluho doba noći, možda pomislili "čekaj malo, ovo smrdi". AI nema gluho doba noći. AI ne spava. AI ne sumnja. AI vidi podatke i kaže: "Statistički, ovo je najprofitabilnije." I onda to napravi. Milijun puta u sekundi.

A kad svi modeli istovremeno odluče da je najprofitabilnije povući se s tržišta — eto ti flash crasha na steroidima. I ne samo jednog. Više njih, istovremeno, na različitim tržištima, povezanih nevidljivim nitima koje je ispleo taj transformer model. To nije kriza. To je lančana reakcija. To je fisija.

I zato je usporedba s nuklearnim oružjem zapravo genijalna. Jer nuklearna bomba ne ubija samo zato što je eksplodira. Ubija zato što je njena eksplozija pokretač druge, pa treće. Lančana reakcija. Ista stvar s AI-jem u financijama: jedan model povuče, drugi model vidi pad i povuče jače, treći model interpretira to kao signal za totalni egzodus. I prije nego što itko stigne reći "liquidity", tržište je nestalo.

A sad dolazi onaj dio koji je najgoreg okusa. Kad centralne banke počnu govoriti o regulaciji, to obično znači da je vlak već odavno otišao, a one sad pokušavaju dogovoriti tko će platiti novu prugu. Ali ajde, dajmo im benefit sumnje. Recimo da je moguće napraviti nešto slično onome što je funkcioniralo u hladnom ratu — međunarodni sporazum, inspekcije, transparentnost, obveza testiranja prije implementacije.

Onda se sjetimo da je svijet danas malo drugačiji nego 1945. Nemamo dva igrača s jasnim interesom za očuvanje statusa quo. Imamo ih dvadesetak, s različitim stupnjevima tehnološke zrelosti, potpuno različitim političkim sustavima i, što je najvažnije, potpuno različitim idejama o tome što je "prihvatljiv rizik". Jedni će reći: "Nećemo regulirati, jer će nas to koštati konkurentnosti." Drugi će reći: "Regulirat ćemo, ali samo one koji nisu naši." Treći će reći: "Koja regulacija, pa mi smo to već napravili, samo što nismo rekli."

I dok oni pregovaraju, tko gradi modele? Tko ih trenira na podacima koji su, eto, slučajno, izašli iz financijskih institucija koje su te modele i naručile? Tko testira što se dogodi kad pet modela istovremeno odluči shortati istu dionicu? Nitko. Jer to je tajna. Jer to je poslovna tajna. Jer "to je naša intelektualna svojina, ne možemo vam reći kako radi, ali vjerujte nam, sigurno je".

Zvuči poznato? Zvuči kao svaki drugi put kad su nam rekli "vjerujte nam". Od subprime hipoteka do kripto mjenjačnica. Od "ovaj softver je siguran" do "ova nuklearka je sigurna". Uvijek ista priča. I uvijek taj kraj.

Naravno, postoji šansa da će funkcionirati. Da će se države dogovoriti, da će uspostaviti mehanizme, da će modeli biti testirani prije lansiranja, da će postojati crveni telefoni između centralnih banaka koji će zvoniti kad modeli počnu ludovati. Moguće je. Ljudi su se dogovorili oko nuklearnog oružja, a to je bilo puno teže — jer je nuklearno oružje imalo jasnog neprijatelja. AI nema neprijatelja. AI je alat. Alat koji svi žele. I koji svi žele prvi.

I tu dolazimo do one stvari koju centralni bankari ne vole reći naglas: možda problem nije u tehnologiji. Možda je problem u nama. U našoj nesposobnosti da se dogovorimo. U našoj vječnoj potrebi da budemo brži, pametniji, bogatiji od susjeda. U tome što smo izgradili financijski sustav koji je toliko složen i toliko isprepleten da ga jedan jedini model može srušiti, ali smo ga istovremeno toliko tajnovitim da ga nitko ne može ni vidjeti, a kamoli regulirati.

Ali ajde. Recimo da će uspjeti. Recimo da će za deset godina postojati globalni AI non-proliferacijski režim, s inspekcijama, kaznama i crvenim gumbom. Bit će to lijepo. Bit će to pametno. Bit će to jedino razumno.

A do tada, sretno s algoritmima.

Izvor: thenextweb.com