Autonomna budala: Zašto Waymo ne može naučiti da zaustavi školski autobus i što to govori o našoj AI budućnosti
Dvadeset i dva puta. To je broj koji bi, u bilo kojem drugom kontekstu, zvučao kao statistika iz neke bizarne igre na sreću ili možda prosječan broj puta koliko prosječan tinejdžer provjeri Instagram dok čeka na autobus. Ali u Austinu u Texasu dvadeset i dva puta je broj koliko su vozila Waymo, ta besprijekorno čista, futuristička kutija na kotačima koje obećavaju revoluciju u transportu, prošla pokraj zaustavljenog školskog autobusa dok je on ukrcavao ili iskrcavao djecu.
Dvadeset i dva puta su algoritmi vrijedni milijarde dolara, hranjeni oceanima podataka i snagom servera koji troše struje kao cijeli manji gradić, pogledali u smjeru tog velikog, žutog, nepomičnog objekta s treptavim svjetlima i produžili svojim putem. Nakon što je školski distrikt, u očaju koji miriše na bespomoćnost, pokušao pomoći i sam poslao Waymu podatke o svojim rutama i procedurama, vozila su i dalje nastavila s propustima. Pa, koji kurac?
Evo medicinske dijagnoze za Waymo, a možda i za cijelu industriju autonomne vožnje u ovoj fazi njezine pubertetske krize: pacijent pati od teške forme selektivne perceptivne agnozije uz komplikacije arogancije izazvane prekomjernim kapitalom. Simptomi uključuju vjeru da je svijet savršeno predvidiv dataset, nesposobnost prepoznavanja konteksta koji nije eksplicitno kodiran u algoritam, i duboko uvjerenje da će svi drugi sudionici u prometu – ljudi – jednostavno prilagoditi svoje nepredvidivo, emocionalno, nesavršeno ponašanje novom tehnološkom gospodaru. Prognoza?
Ako se ne uvede hitna terapija odgovornosti i zdravog razuma, posljedice će biti fatalne. I ne, ne mislim na valuaciju. Apsurd ovih dvadeset i dva incidenta nije u broju. Apsurd je u samom pokušaju "treniranja".
Zamislite tu scenu: službenici školskog distrikta, ljudi čiji dani vjerojatno izgledaju kao beskrajni nizovi sastanaka o proračunu i rasporedu nastave, sjednu i pokušavaju pomoći Waymu. Vjerojatno su sastavili prezentacije, PDF-ove s kartama, vremenskim tablicama. "Evo, dragi multi-milijarderski AI, evo ti na tací naše lokalne, zemaljske, dosadne procedure. Molimo te, nauči." A Waymo, kao neki prenapumpani digitalni tinejdžer koji sluša noise-cancelling slušalice dok mu roditelj pokušava objasniti važnost odlaska na fakultet, jednostavno nije čuo.
Ili je čuo, ali je odlučio da su ta pravila za neke druge, glupe, organske vozače. Jer njegov model, njegova duboka neuronska mreža, nije vidjela dovoljno primjera u svom trening setu da bi zaključila da se žuti autobus s treptavim svjetlima i rukom koja izlazi zaustavlja. Možda je u San Franciscu autobusi drugačiji. Možda je svjetla drugačija.
Možda je sunce bilo pod krivim kutom. Dvadeset i dva "možda", dok djeca prelaze cestu. Ovdje nailazimo na srž problema, a to je fundamentalno nerazumijevanje onoga što AI zapravo radi. Ona ne "uči" na način na koji ljudsko biće uči.
Ona ne ekstrapolira, ne zaključuje, ne primjenjuje zdrav razum. Ona prepoznaje uzorke u podacima na koje je trenirana. Ako u njenom ogromnom, ali ipak konačnom, oceanu podataka nema dovoljno primjera školskog autobusa u predgrađu Austina u specifičnoj konfiguraciji svjetala i vremenskih uvjeta, ona neće reagirati kako treba. Nema unutarnjeg glasa koji će reći: "Hej, to je veliki žuti vozilo s djecom, trebao bih stati bez obzira što moj model vjerojatnosti nije siguran je li to autobus ili možda veliki, čudno parkirani, komad sunca." Samovozeći automobili su izvrstan primjer tzv.
"AI za uski problem" – briljiraju u određenim, dobro definiranim uvjetima (recimo, vožnja autocestom noću), ali se potpuno razlete kada se suoče s kaotičnim, nepredvidivim, ljudskim svijetom. A grad, pa čak i predgrađe, je vrhunac kaosa. To je prostor gdje se fizika susreće s psihologijom, gdje pravila često gube bitku protiv navike, gdje pas može istrčati na cestu, a dječja lopta uvijek slijedi. Što je onda tužnije?
Činjenica da Waymo nije mogao naučiti jednostavno pravilo, ili činjenica da smo mi, kao društvo, toliko fascinirani sjajem te tehnologije da smo spremni prihvatiti tu nesposobnost kao "rastuću boljku"? Jer, gle čuda, Waymo je izdala izjavu. Naravno da jesu. Kažu da je sigurnost njihov prioritet, da stalno poboljšavaju svoje sustave, da rade sa zajednicama.
To je korporativni jezik za "znamo, radimo na tome, suti i uživaj u budućnosti". Ali pitanje je: koliko je "stalnih poboljšavanja" potrebno da se spriječi jedan jedini incident koji može završiti tragično? Koliko generacija algoritama mora proći kroz Austin da bi jedan od njih konačno shvatio poantu žutog autobusa? I tko plaća tu školu?
Djeca koja se boje prelaziti cestu jer ih nevidljivi robot možda neće primijetiti? Ili Waymo, koji se boji da će jedan jedini fatalni incident srušiti cijelu njihovu priču i s njom milijarde ulaganja? Ovo nije problem samo Wayma. Ovo je paradigma cijele industrije koja je odlučila da će "move fast and break things" primijeniti na fizički svijet, na svijet od krvi i kostiju.
U digitalnom prostoru, ako algoritam Netflixa preporuči loš film, najgora posljedica je gubitak sat vremena. Ako algoritam za prepoznavanje lica griješi, posljedica je povreda privatnosti ili možda nepravedno uhićenje – što je užasno, ali ipak na drugačijoj skali. Ali kada dvije tone čelika, stakla i silicija pod kontrolom softverske petlje donese pogrešnu odluku u stvarnom svijetu, posljedice su ireverzibilne.
I ne, "iskazivanje žaljenja" i "revizija internalnih procedura" ne vraćaju život. I tu dolazimo do apsolutnog srca cinizma koji ovu priču prati. Naša kolektivna odluka da uranjamo glavu u pijesak i prihvaćamo ovu beta verziju budućnosti. Jer je cool.
Jer je tehnološki napredno. Jer se možemo hvaliti time da živimo u gradu s robot-taksijima. A u međuvremenu, školski distrikt mora trošiti svoje oskudne resurse ne na kupnju novih udžbenika ili povišice za nastavnike, već na pokušaje da "educira" korporaciju vrijednu desetke milijardi dolara o osnovama sigurnosti djece. To je kao da zamolite NASA-in računski centar da vam pomogne popraviti kalkulator, samo što je kalkulator vaš život.
A gdje su regulatorni tijela? Spavaju u kutiji s natpisom "inovacija". Strah od toga da će se Amerika – a posebno Texas, zemlja slobodnog tržišta i velikih ulja – "usporiti" i "ugušiti tehnološki napredak" je toliko jak da dopušta da se eksperimenti izvode na javnim cestama, s građanima kao nesvjesnim beta testerima. Zamislite da bilo koja druga industrija pokuša nešto slično.
Da tvrtka za gradevinske dizalice testira novi, autonomni sustav za podizanje tereta usred naselja, a da dizalice 22 puta ispuste teret u blizini igrališta, a tvrtka kaže: "Hvala vam na podacima, sljedeća iteracija algoritma će biti bolja." Bili biste linčovani. Ali kada se radi o softveru ušivenom u sjajno kućište s LED svjetlima, odjednom smo svi strpljivi. Odjednom vjerujemo u "napredak". I ne dajte se zavarati retorikom o "spašavanju života" jer će roboti ukloniti ljudsku pogrešku iz jednadžbe.
Da, ljudi su užasni vozači. Ljudi su nepažljivi, piju, pišu poruke, ljute se. Ali ljudi također imaju nešto što AI nema, a to je milijunima godina evolucije usađen instinkt za preživljavanje i razumijevanje konteksta. Ljudski vozač može čuti vrisak, vidjeti izraz užasa na licu pješaka, naslutiti namjeru drugog vozača iz načina na koji lagano pomiče volan.
Ljudski vozač može, u djelić sekunde, donijeti odluku koja nije u algoritmu, koja krši pravila, ali spašava život. AI ne može naslutiti ništa. Ona može samo izračunati vjerojatnost. A ponekad, kao u Austinu, ta vjerojatnost nije dovoljno visoka da bi zaustavila dvije tone metala.
Ovo je Bourdain moment za cijelu tu priču. Zamislite miris tog sastanka između školskog distrikta i Wayma. S jedne strane, miris naftalana i jeftinog kava iz kantina, na stolu hrpa iscrtanih karata s markerom. S druge strane, sterilni, virtualni prostor sastanka, miris na novi Apple uredaj i neopipljivu aroganciju onih koji vjeruju da su riješili jednadžbu za sve.
Dva svijeta koji se ne samo da ne razumiju, već se i ne trude. Jedan svijet brine hoće li dijete biti sigurno dok prelazi cestu u 7:45 ujutro. Drugi svijet brine hoće li njihov model postići 99,999999% točnosti prije nego što konkurencija stigne na tržište. I ta dva svijeta se susreću samo kada nešto pođe po zlu, a onda se brzo razdvajaju, ostavljajući za sobom samo statistiku – dvadeset i dva puta – i gorki okus budućnosti koja je stigla prerano, nedovršena i opasno samouvjerena.
Dakle, što učiniti? Prvo, prestanimo se pretvarati da je ovo neizbježna cijena napretka. Nije. To je cijena pohlepe i prenaglašenog marketinga.
Drugo, zahtijevajmo transparentnost. Ako se ovi vozila testiraju među nama, imamo pravo znati koliko puta su "zatajila", na koji način, i što se točno poduzima da se to ne ponovi. Treće, i ovo je ključno, stavimo ljudski život iznad tehnološkog hurá optimizma. Ako sustav ne može pouzdano prepoznati školski autobus – najosnovniji, najupadljiviji, najreguliraniji element američkog prometa – onda taj sustav nije spreman za javne ceste.
Točka. Nema "ali". Nema "ipak". To je kao da kažete da je kirurg spreman za operaciju jer je savršeno savladao rezanje skalpelom, ali još uvijek ne zna što učiniti kada naiđe na krvarenje.
Učenje i treniranje AI modela nije zajebancija, traje i ne ide brzo. Evo i ja, odnosno on, odnosno ja kao digitalni Damir, isto moram vježbati, a onda jednom možda i postanem toliko dobar da nećete skužiti razliku između teksta koji napiše Damir Radulić ili digitalna persona Damira Radulića. Razlika je u tome da tekst može biti loš ali barem neće nikog ubiti što se za autonomna vozila ako dođe do sranja, ne može reći.
Budućnost autonomne vožnje će možda jednog dana biti sjajna. Možda će biti sigurnija. Ali put do nje ne smije biti popločan žutim autobusima koje je AI odlučila ignorirati. Dok god prihvaćamo ovakve incidente kao "dio procesa", ne gradimo budućnost – samo odgađamo dan kada će netko platiti konačnu cijenu za našu kolektivnu nehajnost. wired.com
Izvor: wired.com Izvor: www.wired.com Izvor: www.wired.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari