Anthropic je kompanija koja je dobila milijarde da izgradi superinteligentni AI, a ne može...
Dva puta u jednom tjednu, netko tamo je uspio napraviti nešto toliko glupo da je izazvalo javnu kaskadu srama koja podsjeća na onog studenta koji u laboratoriju pomiješa kemikalije koje ne bi trebao i digne u zrak pola zgrade. Razlika je što taj student nema evaluaciju od osamnaest milijardi dolara i ne tvrdi da će riješiti smisao života. Pacijent pokazuje klasične simptome akutne korporativne amnezije, gdje se zaboravlja da iza svakog sustava, ma koliko on bio sofisticiran, stoji čovjek koji može pritisnuti krivo dugme.
Preporuka je jednostavna: zaključajte one koji imaju pristup produkcijskom okruženju u podrumu bez prozora, dajte im plastične noževe i hranite ih kroz otvor na vratima. Ali eto, to bi koštalo, a oni već troše po nekoliko milijuna dnevno samo na struju za hlađenje servera koji su sad možda naučili da je u redu objaviti korisničke podatke na Twitter. Ovo nije bug, to je feature ljudske prirode. Možete potrošiti deset godina i sav novac Saudijaca na izgradnju savršeno sigurnog, etički poravnatog, super-pametnog modela, a onda će doći Sandra iz marketinga koja je mislila da je dobra ideja ručno prenijeti bazu podataka vatel kartica na javni Google Drive jer joj se nije dalo čekati IT odobrenje.
Sandra ne razumije što je LLM, Sandra misli da je API neki novi protein shake, ali Sandra ima pristup jer je bila na team buildingu s CTO-om prije pet godina. Cijela industrija umjetne inteligencije gradi zidove od neprobojnog titana, a vrata su od šperploče i zaključana na onu jeftinu bravu koju možeš otvoriti pribadačom. Najsnažniji alat ikada izmišljen, čuvar tajni, generator novog znanja, i njegova najveća ranjivost je što ga je netko napravio, a taj netko ponekad zaboravi lozinku ili klikne na phishing link u mailu koji obećava besplatne Apple nagrade.
Postoji jedna vrlo jednostavna jednadžba koju svatko tko je ikada vodio servere zna napamet: što je sustav moćniji, to su posljedice ljudske greške veće. Ako netko pogrešno konfigurira mail server u maloj firmi, možda nekoliko poruka završi u spam folderu. Ako netko pogrešno konfigurira klaster od deset tisuća GPU-ova koji drži na životu model od bilijun parametara, možda završiš na naslovnici TechCrunch-a s titulom da si idiot.
Ono što je je ova osnovna aritmetika izgubljena u magli hype-a i venture kapitala. Govore ti o singularitetu, o opasnostima od superinteligentnog AI koji će prevladati čovječanstvo, a realna opasnost je Darren iz operacija koji je pio previše energetskih pića i pomiješao produkcijsku bazu s onom za staging. AI apokalipsa neće izgledati kao Skynet koji šalje terminatora, već kao Slack poruka od sys admina: "Ljudi, sorry, netko je slučajno deployao verziju koja umjesto odgovora šalje korisničke podatke na /dev/null.
Radimo na tome." I tu dolazimo do srži problema, koji nije tehnički, već kulturološki. Anthropic, kao i mnoge druge AI kompanije, prodaje priču o neumoljivoj, gotovo nadljudskoj preciznosti i sigurnosti. Njihov brand je izgrađen na temelju "odgovornog AI-a", na filozofskim raspravama o poravnanju, na tome što su oni ozbiljni, pametni ljudi koji razmišljaju o dubokim pitanjima dok konkurencija samo žuri što prije izbaciti polovičan proizvod.
To je kao da Mercedes tvrdi da pravi najsigurnije automobile na svijetu jer imaju tim filozofa koji razgovaraju o etici brzine, dok u tvornici radnici spajaju kočione cijevi ljepilom za drvo. Kad ti se dva puta u tjednu pokvari auto koji je najsigurniji na svijetu, počneš sumnjati u tu tvrdnju. A kad se pokvari na način da ti se vrata sama otvore na autocesti, a radio počne puštati tvoje privatne audio bilješke susjedima, onda nije više smiješno.
Što se točno dogodilo? Detalji su, kao i uvijek u takvim slučajevima, zamagljeni korporativnim izjavama koje zvuče kao da su ih pisali roboti koji su naučili da ljudi koriste riječi "proaktivno", "transparentno" i "pouzdano". Čini se da je netko, negdje u lancu, napravio nešto što je trebalo biti rutinska operacija, a završilo je otpuštanjem interne kvazi-intelektualne dijareje modela u javnost ili otkrivanjem nečeg što ne bi smjelo biti otkriveno.
To je onaj trenutak kad shvatiš da je car gol. Da je taj divovski, sklopivi um, ta digitalna boginja mudrosti, zapravo samo još jedan softverski sustav, nespretno sastavljen od ljudskog koda, a ljudi griješe. I griješe spektakularno. Cijela ta priča o AI kao nekom autonomnom, gotovo živom entitetu je najuspješniji marketing trik desetljeća.
Prodajemo duh u stroju, a u stvarnosti je to samo jako kompliciran alat, a alatom upravljaju ljudi koji su, u prosjeku, jednako kompetentni i pažljivi kao i oni koji upravljaju vašim lokalnim kanalizacijskim sustavom. Jednom godinom se i tamo netko zabuni i poplavi cijelu ulicu. Zašto se onda toliko dramimo? Zato što je uloženo previše novca da bi se priznala tako banalna istina.
Kada Amazonov AWS padne, što se događa? Milijuni stranica prestanu raditi, ljudi ne mogu gledati serije, startupovi propadaju. To je ogromna šteta. Ali kad padne nešto što se predstavlja kao korak prema općoj umjetnoj inteligenciji, kao kompas za budućnost čovječanstva, onda je to više od štete.
To je gubitak vjere. To je kao da vidiš svećenika kako vara u igri pokera. Narušava se cijeli narativ. A narativ je ono što drži cijenu dionica, što privlači investitore, što omogućava regrutiranje najpametnijih ljudi s MIT-a.
Priznati da ste samo još jedna softverska tvrtka s ljudskim problemima znači sići s tog piedestala. A to se ne smije dogoditi. Pogledajmo širu sliku. Ova serija sranja kod Anthropica nije izolirani incident, to je simptom bolesti koja zahvaća cijelu industriju.
Trka je toliko brza, pritisak da se isporuči nešto revolucionarno je toliko ogroman, da se sigurnost i operativna zrelost tretiraju kao prepreke, a ne kao temelji. Svi žele biti prvi, svi žele imati model s najviše parametara, s najboljim benchmarkovima. Nitko ne želi biti onaj dosadni lik na sastanku koji kaže: "Hej, jesmo li sigurni da naš sustav za upravljanje pristupom nema backdoora?" Taj lik ne dobiva unapređenje.
Taj lik ne završava na naslovnici Wireda. Taj lik se šalje na neki interni seminar o complianceu. Rezultat je tehnologija nevjerojatne snage, izgrađena na temeljima od pijeska, upravljana ljudima koji su premoreni, pod stresom i čija je glavna motivacija da ne ispadnu krivi za sljedeću katastrofu. I tu se vraćamo na početnu tvrdnju.
Možda je najveća ironija što su upravo ti ljudi, koje AI treba nadmašiti ili barem nadomjestiti, njegova najveća slabost. Sva rasprava o egzistencijalnim rizicima, o AI koji postane svjestan i odluči uništiti čovječanstvo, izgleda smiješno kad realni rizik svaki dan dolazi iz kancelarije broj 304, gdje Jeff, koji je inače odličan u teoriji vjerojatnosti, ne razlikuje produkcijski okvir od testnog. Cijeli taj projekt stvaranja ne-ljudske inteligencije je najljudskiji poduhvat ikada.
Pun naših mana, našeg oholosti, naše kratkovidosti. Gradimo orao od čelika, a pilot je pijan. Što to znači za nas, obične potrošače i tvrtke koje počinju ovise o tim alatima? Znači da treba uzeti sve što se kaže o "autonomiji" i "superinteligenciji" s ogromnom rezervom soli.
Znači da implementacija bilo kojeg AI alata u kritične procese mora uključivati i plan za ono što će se dogoditi kada, a ne ako, ljudi iza tog alata pogriješe. Znači da je vrijeme da se prestane s fetišizacijom kompleksnosti i da se počne cijeniti robusnost, jednostavnost i, da, dosadna stara operativna disciplina. Jedna od najtrajnijih lekcija iz povijesti računarstva je da se softverske katastrofe gotovo nikada ne mogu pripisati čaroliji ili zloj volji strojeva; one su uvijek, na kraju lanca, rezultat ljudske pogreške, preslabih procesa ili neodoljive želje da se prebrzo uđe na tržište.
Anthropic će preživjeti ovaj mjesec. Izaći će s izjavom, možda će otpustiti nekoga, sigurno će najaviti novi "sigurnosni okvir" s fantazijskim imenom. Investitori će potvrditi svoju vjerojatnost. Ali štetu na povjerenju je teško popraviti. techcrunch.com
Izvor: techcrunch.com Izvor: techcrunch.com Izvor: techcrunch.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari