Umjetna inteligencija i milijardu agenata

Zamislite zdravstveni sustav u kojem četiri AI agenta obavljaju posao liječnika, sestara, administratora i ljekarnika — svaki savršen u svom uskom području, svaki potpuno nesposoban dogovoriti se s ostalima tko će platiti račun za struju. I tako smo došli do artikula vjere današnjice: put do umjetne superinteligencije nije više pitanje hoćemo li, nego kako ćemo podijeliti profit prije nego što nas zamijeni.

Cijela priča o superinteligenciji ima strukturu šalice kave u kojoj se šećer nije otopio — na dnu je slatko, ali prvih deset gutljaja gorko i beskorisno. Tehnološke kompanije prodaju viziju u kojoj će agenti koordinirati bolje od bilo koje ljudske organizacije, a pritom zaboravljaju spomenuti da ti taj agenti danas ne znaju razlikovati termin kod zubara od termina za smrtovnicu. Nije problem u tehnologiji, jebote. Problem je u tome što je koordinacija između entiteta s različitim ciljevima najteži problem u povijesti čovječanstva, i to ne zato što nemamo dovoljno računalne snage, nego zato što ljudi instinktivno ne vjeruju jedni drugima, a kamoli algoritmu koji je prošlog tjedna preporučio da pitu od višanja jedeš s kečapom.

Zamislimo hipotetski scenarij: agent za procjenu simptoma kaže da ti treba hitna pomoć, agent za zakazivanje nema slobodnih termina do idućeg tjedna, agent osiguranja tvrdi da tvoja polica ne pokriva hitne slučajeve, a ljekarnički agent nema lijeka na skladištu. Četiri savršeno logična zaključka, svaki točan u svom kontekstu, i ti si mrtav. To nije superinteligencija. To je birokracija preseljena u oblak, s istim ishodom — samo bržim.

Sada, naravno, netko će reći da je rješenje u tome da agenti dijele zajednički cilj, da su trenirani na istim podacima, da imaju hijerarhiju odlučivanja. Pas mater. To je isto kao reći da će se pet programera dogovoriti oko imena varijable u pet popodne nakon treće kave. Ljudi su evoluirali da budu nelogični, emotivni, i ponekad — iznenađenje — pametniji od prosječnog modela koji je treniran na Redditu. Agenti koji su savršeno racionalni u svom uskom području, a potpuno glupi za širu sliku, nisu rješenje. Oni su problem koji smo stvorili da bismo ga mogli prodati kao rješenje.

I tu dolazimo do pravog pitanja koje nitko ne postavlja: zašto bi itko želio superinteligenciju koja koordinira agente, a ne superinteligenciju koja razumije kontekst? Zato što je koordinaciju lako mjeriti, lako prodati i lako naplatiti pretplatu. Razumijevanje konteksta je teško, sporo i često beskorisno za dioničare. Tržište ne nagrađuje istinu. Tržište nagrađuje ono što se može staviti u PowerPoint i prodati investitorima koji ne znaju razlikovati između API-ja i aparata za kavu.

Ako pogledate povijest svake tehnološke revolucije — od parnog stroja do interneta — uvijek je ista priča: prvo dolazi tehnologija, onda dolazi razočarenje, pa tek onda dolazi stvarna vrijednost. Mi smo sad u fazi između hypea i razočarenja, gdje svi pričaju o superinteligenciji, a nitko ne zna što će s onim agentom koji je jučer zakazao sastanak u 3 ujutro jer je pomiješao vremenske zone. Nije smiješno. Nije ni tužno. To je jednostavno jebeni posao koji tek treba obaviti.

E sad, netko bi rekao da je rješenje u tome da se agenti međusobno natječu, da tržište snaga riješi koordinaciju. To je ideja koja zvuči pametno dok ne shvatiš da si upravo stvorio četiri monopola koji se međusobno optužuju za hakiranje dok ti krvni tlak raste. Tržište ne rješava koordinaciju. Tržište stvara pobjednike i gubitnike, a ti si gubitnik čim tvoje zdravlje ovisi o tome koji je agent brže odgovorio. Nije lijepo. Nije pošteno. Ali tako funkcionira kapitalizam i u stvarnom svijetu, samo sad s manje ljudskog kontakta i više grešaka u kodu.

I zato, dok čitamo o putu do umjetne superinteligencije, sjetimo se da je svaki put koji vodi do savršene koordinacije agenata zapravo put do savršene birokracije. Razlika je samo u brzini. Umjesto da čekaš tri dana na odgovor iz osiguranja, čekat ćeš tri milisekunde. Ali odgovor će i dalje biti "ne", i dalje će biti pogrešan, i dalje ćeš morati nazvati nekoga tko će ti reći da "sustav trenutno ne radi". Budućnost je stigla. Donijela je račun za serversko vrijeme i frustraciju koju nitko nije predvidio.

Izvor: technologyreview.com