Robotaxi kolaps u Kini: kada ti AI zakuca na autocesti
Stotinu automobila koji su odlučili da je vrijeme za kolektivni štrajk na najprometnijoj kineskoj autocesti nije ništa drugo nego savršena slika budućnosti koju su nam obećali. U Wuhanu, grad koji je već imao priliku biti epicentar jedne globalne panike, Baidu-ovi robotaksiji su se jednostavno ugasili. Sinkronizirano. Kao da je netko povukao utikač iz mašte nekog prenapuhanog CEO-a.
Putnici su ostali zarobljeni u vozilima bez volana, bez ikakve mogućnosti da interveniraju, dok su se oko njih taložili užas i prometni kaos, uz nekoliko prijavljenih sudara. To nije kvara. To je dijagnoza. Pacijent, kojeg zovemo "autonomna budućnost prijevoza", pokazuje jasne simptome akutnog zanemarivanja realiteta uz kroničnu komplikaciju poznatu kao "a jebiga, software je".
Ova scena iz crne komedije nije izolirani incident, nego probni uzorak. Probni uzorak onoga što slijedi kada kompleksni, kritični sustavi za javno zdravlje i sigurnost prepustimo logici startup pitch deckova i vrućim glavama koje misle da je "move fast and break things" prihvatljiva filozofija za dvije tone čelika koje se kreću stotkom na sat. U Wuhanu je riječ o stotinama vozila. Zamislite taj taj kaskadni kvar u špici u Los Angelesu, na Tokijskoj kružnoj razvodnici ili na Zagrebačkoj obilaznici.
Zamislite da nema fizikalca koji će lupiti po monitoru ili vozača koji će psovati i pokušati nešto popraviti. Postoji samo ti, bežični internet, i tiho zujanje servera koji su upravo odlučili da im je dosta. Budućnost je bespomoćnost u luksuznom, klimatiziranom zatvoru s Tesla ekranima. Što se točno dogodilo?
Baidu, kineski gigant koji je svoju reputaciju izgradio na internet pretraživanju (što je, usput, također posao koji se temelji na tome da znaš gdje što je), kaže da je u pitanju "sumnja na kvar sustava". To je IT ekvivalent izjavi "ima nešto s motorom". Može biti sve, od glupog buga u kodu za ažuriranje, preko problema s mrežnom komunikacijom 5G stanica, do nekog siromašnog inženjera koji je deployao krivu konfiguraciju na produkcijski cluster u petak u pet popodne.
Bit je u tome da je cijeli flota, cijeli koncept, ovisan o tom jednom, jedinstvenom točku neuspjeha. Nema plana B. Nema ručnog upravljanja. Nema "odvezi se na stranu i pričekaj".
Postoji samo centralni mozak koji, kada zatreba, odluči da su svi njegovi udovi paralizirani. To nije napredak. To je regresija do razine dječje kolica s elektroničkom kočnicom koja se zaglavi. A sada, pitanje u stilu Philomene Cunk: ako su ovi automobili toliko pametni da sami voze, zašto nisu dovoljno pametni da shvate da trebaju stati na stranu ceste i upaliti sva četiri žmigavca kada im "nešto ne štima"?
Odgovor je jednostavan: jer im nije dopušteno. Njihova pamet je usko, duboko specijalizirana iluzija. Zna izbjeći pješaka, zna pročitati semafor, ali ne zna fundamentalnu ljudsku heuristiku: kad nešto ne radi, prestani to koristiti. Oni su robovi algoritma, a algoritam nije napisan za stvarni, kaotični svijet.
Napisan je za čiste, uredne podatke iz simulacija. Kada se susretne s nepredviđenim – a kvar vlastitog središnjeg živčanog sustava je vrhunac nepredviđenog – jednostavno odustane. Kao što bi i svi mi, da nam netko izvadi mozak usred vožnje. Tu dolazimo do srži apsurda.
Cijela prodajna priča autonomne vožnje je sigurnost. Manje ljudske pogreške, manje nesreća. Statistički, to možda i drži vodu na papiru, u dugoročnim studijama. Ali statistika je bespomoćna kada si ti onaj statist koji je zapeo u drugoj traci dok kamion iz suprotnog smjera ne pokazuje znakove usporavanja.
Rizik se ne raspoređuje, nego se koncentrira. Umjesto tisuću malih, ljudskih pogrešaka koje se događaju nasumično, dobiješ jednu ogromnu, sistemsku pogrešku koja pogodi sve u isto vrijeme. To nije eliminacija rizika, nego njegova amplifikacija i sinkronizacija. I najjezivije od svega: nema odgovorne osobe.
Tko će odgovarati za Wuhan? CEO Baidua? Team lead za firmware? Onaj anonimni developer čiji je commit breakao edge case?
Odgovornost se rasprši u magli korporativnih odjela i uvjeta korištenja koji u paragrafu 47, točki B, jasno kažu da ne preuzimaju nikakvu odgovornost za ništa. I ne, ovo nije samo kineski problem. To je beta test za cijelu industriju. Dok vi ovo čitate, Waymo, Cruise i ostali šílama autonomne vožnje trče da implementiraju svoje usluge u desecima američkih gradova.
Elon Musk, naš dragi vizionar koji je jednom obećao da će Tesla robotaksiji biti svuda do 2020. godine, i dalje prodaje maglu o Full Self-Drivingu kao "skoro gotovoj" stvari, dok sustav i dalje ima problema s prepoznavanjem odbojnika za bicikliste i dječjih igrališta. Ali zašto bi se zaustavljali zbog nečeg tako trivijalnog kao što je fundamentalna nepouzdanost? Trka je za tržišnim udjelom, za povlaštenim statusom s regulatorima, za ogromnim oceanima podataka koji su potrebni da bi se ovi sustavi uopće natjerali da rade.
Javna sigurnost je tek jedan od parametara u jednadžbi, i često nije najvažniji. Razmislite o arhitekturi koja stoji iza ovoga. Svaki od tih automobila je, u biti, tanji klijent. On ne "razmišlja" samostalno u punom smislu te riječi.
On osjeća svijet senzorima, šalje podatke u cloud, prima naredbe. To je klasični centralizirani model. A što je cloud? To je skup ogromnih, užasno složenih računala negdje u hangarima, koja troše koliko i mali grad.
Ona su podložna istim problemima kao i svaki drugi server: preopterećenje, hardverski kvarovi, cyber napadi, greške u softveru, čak i obična ljudska pogreška u održavanju. Kvar u Wuhanu nije bio u "automobilima". Bio je tamo negdje u toj nevidljivoj, nedodirljivoj magli. To je kao da ti netko upravlja životom preko loše igraće palice, a ti nemaš nikakvu mogućnost da preuzmeš kontrolu.
Što je onda alternativa? Pa, prvo, iskrena poniznost. Priznati da je potpuna autonomija u nepredvidivom otvorenom svijetu problem koji možda nećemo riješiti za još desetljeća, a ne za nekoliko kvartala. Drugo, hibridni pristup.
Sustavi koji mogu preuzeti monoton posao (autocesta, parking) ali koji imaju besprijekorno jednostavan, fizikalni način za ljudsko preuzimanje kontrole u hitnim slučajevima. Ne ekran koji se zaglavi, nego ručicu, pedal, nešto što funkcionira i kada je cijeli digitalni svijet mrtav. I treće, i najvažnije, regulatorni okvir koji ne trči za novcem, nego za ljudima. Koji zahtijeva da se ovakvi sustavi testiraju ne u simulaciji, nego u stvarnim, kontroliranim stres testovima koji uključuju masovne kvarove.
Koji nameće stroge standarde za redundanciju i oporavak. U Hrvatskoj, gdje se i osnovna digitalna infrastruktura često oslanja na molbu i nadu, ovo bi trebalo biti posebno upozorenje. Dok naši lokalni političari sanjaju o "pametnim gradovima" punih senzora i autonomnih vozila, trebali bi se prvo zapitati mogu li osigurati da im se stranica porezne uprave ne sruši u roku predaje. Tehnologija nije ukras.
Nije marketing. Kada postane dio kritične infrastrukture prometa, postaje pitanje javnog zdravstva. I ne, ne možete to outsourcati nekom startupu iz Dubaija i očekivati da će sve biti u redu. Konačna istina koju Wuhan razotkriva je neugodno jednostavna: mi gradimo svijet koji je sve pametniji, a sve manje robustan.
Svijet u kojem je pojedinačna komponenta nevjerojatno sofisticirana, ali je cijeli sustav krhkiji od stakla. Zamijenili smo grubu, ali pouzdanu mehaničku otpornost, za elegantnu, ali krtu digitalnu složenost. I kada ta složenost kiksa – a ona uvijek, uvijek kiksa – nema natrag. Nema rezervnog dijela. wired.com
Izvor: wired.com Izvor: www.wired.com Izvor: www.wired.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari