Genetski kod za virus košta manje od kave u Amsterdamu, a pitanje je samo kome ćeš ga poslati

Ako je generativni model dovoljno pametan da predloži genetski nacrt virusa, zašto mu onda treba čovjek da pritisne tipku enter? Zato što je čovjek taj koji ide u zatvor. Model ostaje čist, savjest mu je cache memorija koju netko drugi očisti, a etički odbor Stanforda dobije još jedan PDF za arhivu. To je cijela poanta ove priče, a vijest je, kao i obično, prodana kao "korak naprijed" — jer nitko ne želi napisati naslov "Doktorand je naučio stroj da piše recepte za biološko oružje, a svi se prave da je to znanstveni rad".

Prije trideset godina, kad sam dizao Kvarner Net i spajao ljude na internet preko modema koji su zvučali kao da netko davljenika ubacuje u mikser, svaka nova tehnologija je imala trenutak kad si je mogao reći: dobro, ovo je zgodno, ali kome to treba. Nitko me nije pitao je li etički da Riječanin ima pristup cijelom svijetu. Pitali su me koliko košta i kad će raditi. Ta ista logika sada tjera generativne modele u laboratorije za dizajn života, samo što ovaj put nije u pitanju pristup forumu nego pristup genetskom kodu. Razlika je u tome što forum možeš ugasiti. Virus koji je netko dizajnirao u oblaku ne možeš ugasiti jer ne znaš gdje je, ne znaš tko ga ima, a kamoli kome je sve poslan.

Evo što me zapravo smeta kod cijele te priče o "AI-dizajniranim virusima". Ne to što je netko u Stanfordu napravio doktorsku disertaciju iz nečega što zvuči kao scenarij za film. Smeta me što je infrastruktura za to već tu, komercijalna, dostupna, i nitko je ne čuva kao nuklearni materijal. Je li itko provjerio koliko košta iznajmiti računalne resurse potrebne za takav model? Manje nego godišnja pretplata na neki od onih AI alata koji ti pišu marketing copy. Manje nego pristojan ručak za dvoje. To je cijena ulaznice u svijet u kojem netko može, u teoriji, predložiti sekvencu koja radi nešto što biološki ne bi trebalo raditi. I onda se svi čude kad netko to i napravi.

Ako je AI toliko napredan da predlaže genetske nacrte, zašto onda ne može predložiti i način da se to spriječi? Može. Ali to se ne prodaje kao vijest. "Model je detektirao opasnu sekvencu" je dosadno. "Doktorand je stvorio virus pomoću umjetne inteligencije" je senzacija. I tu leži cijela patologija ovog trenutka: poticaji su postavljeni tako da hraniš strah, ne sigurnost. Istraživač koji objavi rad o tome kako je AI opasan dobije medijski prostor, citate, pozivnicu na panel u Davosu i, ako je pametan, seed rundu za startup koji će "rješavati problem koji je sam stvorio". Istraživač koji radi na tome da se to nikad ne dogodi dobije grant od sto tisuća eura i e-mail od dekana da malo pripazi na trošenje.

Ovo nije kritika konkretnog doktoranda. Lik je vjerojatno pametan i radi ono što mu sustav govori da radi. Ovo je kritika sustava koji je odlučio da je bolje biti prvi koji će objaviti nešto zastrašujuće nego posljednji koji će to zaustaviti. Akademski svijet je postao reality show u kojem pobjedu odnosi onaj tko prvi napravi nešto što nitko nije tražio, a onda svi zajedno pišu etičke smjernice nakon što je genij već izašao iz boce. Smjernice su, kao i obično, za one koji ih se ionako pridržavaju. Onaj koji želi napraviti biološko oružje neće čitati etički kodeks Stanforda. Čitat će GitHub i Stack Overflow.

I tu dolazimo do stvarne dijagnoze, bez medicinskog rječnika jer mi je već pun kufer metafora o pacijentima. Problem nije u tome što AI može dizajnirati virus. Problem je u tome što je cijeli lanac od ideje do realizacije postao jeftin, brz i nemoguć za nadzirati. Prije dvadeset godina, da bi napravio nešto opasno u biološkom smislu, trebao si laboratorij, znanje, novac i ljude koji šute. Danas trebaš laptop, pristup modelu i dovoljno znatiželje da ne pitaš previše pitanja. To je demokratizacija zla koju nitko nije naručio, ali svi su je dobili uz besplatnu dostavu.

Tehnološka industrija ima jednu divnu naviku: svaki put kad napravi nešto što može uništiti svijet, prvo objavi press release, pa onda organizira konferenciju o etici, pa onda zaposli etičara kojeg nitko ne sluša, i na kraju proda firmu nekom većem igraču koji taj problem naslijedi zajedno s dugovima i pravnom odgovornošću koju nitko ne želi preuzeti. Vidjeli smo to s društvenim mrežama. Vidjeli smo to s kriptom. Vidjet ćemo to i s biološkim modelima. Razlika je samo u tome što posljedice društvenih mreža možeš ignorirati tako da obrišeš aplikaciju. Posljedice dizajniranog virusa ne možeš ignorirati jer ti dođu na vrata, u pluća, u krvotok, i ne pitaju je li tvoj etički odbor dao zeleno svjetlo.

Nitko neće zabraniti ovo istraživanje. Ne zato što je korisno, nego zato što je zabrana nemoguća. Modeli su već tu, računalni resursi su svugdje, a znanje se ne može povući s tržišta kao što se povlači neispravan auto. Možeš regulirati prodaju, ali ne možeš regulirati znatiželju. Možeš kazniti jednog doktoranda, ali ne možeš kazniti tisuću njih koji će sljedeće godine imati pristup istoj tehnologiji i manje straha od posljedica. Jedino što možeš je priznati da smo ušli u fazu u kojoj svaka pametna ideja dolazi s ugrađenim rizikom i da nitko, baš nitko, nema plan B koji nije "nadajmo se da će ljudi biti dobri".

A ljudi nisu dobri. Ljudi su ljudi. Neki su dobri, neki su gadovi, a većina je negdje između i klacka se ovisno o tome koliko im je teško i koliko ih nitko ne gleda. Tehnologija koja ignorira tu činjenicu nije neutralna. Tehnologija koja je dostupna svima i može napraviti nepopravljivu štetu je jebeno oružje koje čeka da ga netko upotrijebi, bez obzira na to koliko je lijepih riječi napisano u etičkim smjernicama. Svaka generacija misli da je pametnija od prethodne i da će ona izbjeći greške koje su druge napravile. Onda izmisli nešto što prethodna nije imala, i ponovi iste greške, samo brže i skuplje.

Ne treba mi proročanstvo da znam kako će ovo završiti. Treba mi samo sjećanje na svaku tehnologiju koja je obećavala da će spasiti svijet i završila tako da je svijet morao spasiti sebe od nje. Internet je trebao biti kafić u kojem svi razgovaraju. Postao je tržnica na kojoj svi viču. Društvene mreže su trebale povezivati ljude. Postale su stroj za proizvodnju samoće. AI je trebao pisati kod umjesto nas. Sada piše genetske nacrte virusa. Ako nastavimo ovim tempom, sljedeće što će AI dizajnirati bit će isprika, i to isprika koju nitko neće prihvatiti.

Izvor: technologyreview.com