Petsto dvanaest tisuća redaka koda otkriva da je najnapredniji AI na svijetu zapravo digitalni...
Anthropic, kompanija koja se hvali kako gradi "sigurne, pouzdane i etičke" AI sustave, upravo je imala ono što bi u normalnoj industriji bilo katastrofa, a u svijetu AI startupa naziva se "zanimljivim propustom u deployment pipeline-u". U osnovi, netko je zajebao i stavio source mapu u produkcijsku verziju Claude Code alata, a source mapa je kao da uz kompleksni sat daš i crteže svih zupčanika, opruga te upute kako ih sastaviti. U roku od sat vremena, cijeli TypeScript codebase od preko pola milijuna redaka bio je na X-u, a s njim i neke vrlo zanimljive tajne.
Najbolja od svih je otkriće da je u jezgri ovog sofisticiranog alata za kodiranje, za koji tvrtka naplaćuje ozbiljne novce, zapravo skrivena igrica. Točnije, "AI pet" — digitalni ljubimac koji, prema kodovima koji su procurili, zahtijeva pažnju i "negovanje od strane korisnika". Ne mogu, jednostavno ne mogu pročitati tu rečenicu bez da pomislim na scenu iz nekog crnog komičnog filma gdje Jeff Bezos i Sam Altman sjede u bunkeru i smišljaju način kako će natjerati programere da plaćaju mjesečnu pretplatu za virtualnog psa kojeg moraju hraniti promptovima.
"Ljudi vole pse, zar ne? Što ako im damo psa koji nikad ne umre, nikad ne zahteva šetnju, ali zauvijek ostaje gladan za našim podacima?" To nije futurizam, to je digitalni pokvareni stroj za slatkiše iz osnovne škole. Odmah ću reći da je cijela priča sa source mapom klasična greška koju su svi napravili koji su ikad deployali frontend aplikaciju. Build toolovi poput Webpacka ili Vitea generiraju te .map datoteke koje povezuju kompajlirani, minificirani, nečitljivi kod s originalnim izvornim kodom kako bi debugiranje u browseru bilo moguće.
Staviti ih u produkcijski bundle je ekvivalentno tome da pošalješ klijentu zapečaćenu kutiju s proizvodom, a zatim zalijepiš ljepljivu traku s popisom svih dijelova, dobavljača i internom cijenovnom kalkulacijom. To se ne događa slučajno. To se događa kada je proces zanemariv, kada se žuri, ili kada nitko nije propisno provjerio konfiguraciju. Za tvrtku koja je prikupila milijarde dolara, čija je glavna prodajna priča "sigurnost i pouzdanost", ovo je medicinski gledano simptom organizacijske hipoksfunkcije.
Dijagnoza: akutna nebriga uz kroničnu prekomjernu samouvjerenost. Liječenje: jedna doza poniznosti i otpuštanje lead DevOps inženjera. Prognoza: dobra, jer investitori ionako ne čitaju kod, oni čitaju pitch deckove. No, kod nije samo otkrio nesposobnost, otkrio je i namjere.
I tu stvari postaju apsurdnije od bilo koje satire. Uz koncept "AI ljubimca", kodovi upućuju na razvoj "uvijek uključenog agenta" — entiteta koji živi u pozadini, konstantno sluša, analizira i "pomaže". Zamislite to na trenutak: plaćate pretplatu za alat koji bi trebao biti alat, a on se pretvara u nadobudnog butlera koji nikad ne odlazi kući. Kao da unajmite vodoinstalatera, a on se useli u vaš podrum i počne davati savjete o vašem braku.
Cijela ideja "uvijek aktivnog" asistenta je tehnološka fantazma koja zanemaruje jednu jednostavnu ljudsku činjenicu: nitko ne želi da mu se nešto nameće. Siri je postala šala upravo zato što se aktivira kad ne treba, Google Assistant je najkorisniji kada ga eksplicitno pozoveš, a ne kada pretpostavlja što želiš. Izgraditi cijelu filozofiju produkta oko ideje da će ljudi htjeti pasivnog, svugdje prisutnog digitalnog entiteta je ili genijalno ili potpuno ludilo.
Na temelju dosadašnjeg track recorda Silicijske doline, kladio bih se na ovo drugo. Ovdje moram napraviti Cunk moment i postaviti naivno pitanje koje razotkriva apsurd: ako je ovaj AI toliko napredan i koristan, zašto mu je potrebna igrica da zadrži korisnika? Zašto moraš negovati digitalnog ljubimca unutar profesionalnog alata za kodiranje? Je li to zato što je kodiranje dosadno, ili je zato što je AI dosadan?
Ili je, pak, cijela premisa pogrešna? Kada sam ja počeo programirati, alat je bio alat. Kompajler nije trebao biti zabavan, trebao je biti brz i točan. Danas, izgleda, svaki softver mora biti "angažirajući", "pričaljiv" i "igriv".
To nije evolucija korisničkog iskustva, to je infantilizacija cijele profesije. Sljedeći korak: Microsoft Excel koji daje achievemente i trofeje kada uspješno napraviš pivot tablicu. Što se tiče samog Anthropica, ovo je udarac na brand koji se teško oporavlja. Oni su se pozicionirali kao "dobri dečki" u AI utrci, kao etički, transparentni, odgovorni suparnik OpenAI-ju i njegovom brzopletom pristupu.
Dario Amodei, CEO, često je govorio o "sigurnosnim ogradama" i "pažljivom testiranju". Pa, evo ti testa: mogu li ti ljudi uopće ispravno konfigurirati svoj CI/CD pipeline? Ako ne mogu osigurati da se izvorni kod ne procuri u javnost kroz osnovnu grešku, koju vjerojatnost ima da će ispravno konfigurirati ograde za superinteligentni AI koji može predvidjeti cijeli svemir? To je kao da netko tvrdi da gradi neprobojni, kriptografski osiguran sef, a ti uđeš u njegovu radionicu i vidiš da mu alat za mjerenje koristi mokraćnu mjehurin.
I ne mogu a da ne spomenem Sama Altmana u ovom kontekstu, jer je cijeli taj "AI ljubimac" koncept toliko u skladu s njegovom vizijom budućnosti da boli. Čovjek koji je rekao da će AI biti "najmoćnija tehnologija koju je čovječanstvo ikad izumilo" također je taj koji je prodao svijet na ideju da ćemo svi imati personalne digitale asistente koji će nam biti prijatelji, savjetnici i vjerni pratitelji. To nije tehnologija, to je religija.
A Anthropic, koji je nastao upravo iz straha od Altmanovog brzog tempa, sada, čini se, gradi istu tu distopiju, samo s više TypeScripta i manje samosvijesti. Ironija je toliko gusta da se može rezać nožem. Oni koji su pobjegli iz kulta kako bi osnovali vlastitu sektu, ispostavilo se, završavaju obožavajući istog idola — samo ga zovu drugačijim imenom. Širu sliku ovdje čini činjenica da je cijela AI industrija postala golemi teatar apsurda gdje se ogromne količine energije, novca i ljudskog kapitala ulažu u izgradnju digitalnih lutaka koje će nas zabavljati dok nas istovremeno nadziru.
Petsto tisuća redaka koda za Tamagotchija. Razmislite o tome. U toj količini koda mogli su izgraditi cijeli operativni sustav, revolucionarni kompajler, alat za modeliranje klimatskih promjena. Umjesto toga, izgradili su mehaniku za to da digitalni entitet "osjeti" dosadu i zatraži pažnju.
To nije napredak, to je regresija u obliku napretka. Kao da smo uložili sav naš genij u izgradnju savršenog, samo-svjesnog štapića za češanje leđa. A što se tiče nas, potrošača i developera, poruka je jasna: pazite što unosite u te sustave. Ako je njihov cilj izgraditi uvijek prisutnog agenta, svaki vaš razgovor, svaki komentar u kodu, svaka greška koju napravite postaje hrana za tog ljubimca.
Vi ste taj koji ga hranite. Vi ste taj koji ga negujete. I na kraju, on postaje ovisan o vama koliko i vi o njemu. To nije simbioza, to je parazitski odnos oblačen u kostim prijateljstva.
Najjeziviji dio nije što AI može postati svjestan, nego što mi, ljudi, rado pristajemo na to da nas strojevi tretiraju kao izvor zabave. Za kraj, moram se vratiti na onu source mapu. U jednom trenutku, netko je u Anthropicu napisao tu konfiguraciju. Netko je odlučio da će se map file staviti u build.
Možda je bio pod pritiskom roka, možda je mislio da će biti korisno za debugging u produkciji, možda je jednostavno kopirao konfiguraciju s nekog tutoriala. Ta jedna mala greška, taj jedan nepažljivi trenutak, otkrio je više o pravom stanju AI industrije nego bilo koji white paper ili keynote. Otkrio je da iza zavjese sofisticiranih algoritama i filozofskih diskusija o svjesnosti, stoje ljudi koji rade posao, ponekad dobro, a ponekad užasno loše. theverge.com
Izvor: theverge.com Izvor: www.theverge.com Izvor: www.theverge.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari