Googleovi istraživači protiv Pentagona

Petsto osamdeset ljudi, od toga dvadeset direktora, viših direktora i potpredsjednika, potpisalo je pismo u kojem traže od svog šefa da ne radi posao za Pentagon. To je broj koji zvuči kao da netko ozbiljno misli — dok ne shvatiš da Google ima sto osamdeset tisuća zaposlenih. Petsto osamdeset od sto osamdeset tisuća je 0.32 posto. To je manje od statistike greške. To je broj ljudi koji bi u normalnoj firmi dobio "hvala na mišljenju, vratite se na posao" i nastavio testirati modele koji ne znaju razlikovati mačku od muffina.

Ali nije poanta u brojkama. Poanta je u tri godine.

Tri godine je trebalo Googleovoj upravi da promijeni pravila tako da može reći "da" Pentagonu. Tri godine pravnika, etičkih odbora, internih politika, revizija, sastanaka na kojima su ljudi s doktoratima iz filozofije objašnjavali zašto je "ne činiti zlo" fleksibilna kategorija. Tri godine da se od "nećemo raditi oružje" dođe do "pa, tehnički, ovo nije oružje, ovo je sustav za podršku odlučivanju koji samo preporučuje ciljeve, a čovjek povlači okidač, što je potpuno drugačije".

Taj proces je fascinantan iz perspektive nekoga tko je proveo devedesete postavljajući mreže za ljude koji nisu znali razlikovati ethernet kabel od telefonske žice. Ista priča, drugačija skala. Klijent kaže "treba mi internet za ured", ti instaliraš, naplatiš, odeš. Klijent kaže "treba mi AI za prepoznavanje meta", ti instaliraš, naplatiš, odeš — ali sad imaš etički odbor, Bloomberg članak i petsto osamdeset potpisa na pismu koje nitko neće pročitati.

Jer evo što se dogodilo u te tri godine: Google je promijenio svoja AI načela. Uklonio je frazu "nećemo dizajnirati ili implementirati AI tehnologiju koja uzrokuje ili direktno omogućava ozljeđivanje ljudi". Zamijenio ju je s "primijenit ćemo odgovarajući nadzor i ljudsku procjenu". To je kao da kažeš "neću te ubiti" pa promijeniš u "pobrinut ću se da proces bude uredno dokumentiran". Tehnički istina. Suštinski potpuno drugačije.

Najbolji dio? Istraživači koji su potpisali pismo rade u DeepMindu, Googleovoj jedinici za AI koja je navodno "neovisna" i "usmjerena na sigurnost". DeepMind je počeo s misijom "riješiti inteligenciju i koristiti je za dobrobit čovječanstva". Sad radi na projektima za Pentagon. To nije evolucija. To je kao da kažeš da ćeš postati vegetarijanac pa nakon tri godine jedeš meso ali samo ako je servirano na tanjuru s etičkom izjavom.

Ljudi koji su potpisali pismo nisu naivni. Oni znaju da je ratni AI ogroman biznis. Pentagonov budget za AI je prema posljednjim podacima oko milijardu dolara godišnje, i to samo za istraživanje. Google ne može ignorirati taj novac. Ali ono što je zanimljivo nije da su htjeli ući u taj posao — to je očekivano. Zanimljivo je da im je trebalo tri godine da promijene vlastita pravila.

Tri godine da se uvjere da je u redu.

To je kao da pitaš djecu koliko im treba da pojedu brokulu. Znaju da je zdravo. Znaju da bi trebali. Ali treba im vremena da se uvjere da nije otrov. Google je trebao tri godine da se uvjeri da vojni AI nije otrov za njihov brend. I sad su spremni.

Petsto osamdeset potpisa neće promijeniti ništa. Uprava je već donijela odluku. Pismo je koreografija za medije — "vidite, imamo otvorenu raspravu, demokratski smo društvo, slušamo zaposlenike". A sutra će potpisati ugovor. I prekosutra. I dok vi budete čitali ove retke, negdje u Marylandu, u zgradi bez prozora, netko će testirati model koji je Google prodao Pentagonu, model koji je napisao netko tko je prije tri godine potpisao pismo da se to ne smije dogoditi.

Posao je posao. Novac je novac. Etika je luksuz koji si možeš priuštiti samo dok nisi na tržištu gdje konkurencija nema skrupula. A na tom tržištu, kineske kompanije već rade s vojskom, ruske već rade s vojskom, američke već rade s vojskom. Google je samo zakasnio na zabavu. Tri godine kasno. I sad mora nadoknaditi.

Najgore od svega? Nitko od tih petsto osamdeset ljudi neće dati otkaz. Potpisali su pismo, izrazili zabrinutost, ispunili moralnu dužnost. I sutra će doći na posao, napisati kod, testirati model, ići kući. Jer u tech industriji, moralna dužnost traje točno onoliko koliko treba da se napiše pismo. Nakon toga, stvarni život počinje.

I tako smo došli do točke gdje je "ne činiti zlo" postalo "ne činiti zlo osim ako nema dobru maržu". Google je izmislio novu poslovnu kategoriju: etički fleksibilni AI. Prodaje se po premium cijeni, jer dolazi s jamstvom da su etička pitanja riješena na sastanku od tri godine.

Jedina konstanta u tech industriji je sposobnost ljudi da budu iznenađeni očekivanim.

Izvor: thenextweb.com