Ljudi su izmislili čip koji čita misli i algoritam koji je konačno pobjegao vlastitoj matematičkoj kletvi

Startup koji se pojavio iz ničega tvrdi da je riješio problem koji je mučio cijelu industriju velikih jezičnih modela — onaj dosadni bottleneck koji je kočio skaliranje. Subquadratic, kako su se nazvali, izašao je iz stealth moda prošlog mjeseca i objavio da su probili matematičku barijeru koja je sve držala na kvadratnoj složenosti. Super. Odlično. Baš nam je trebalo još jedno čudo koje će riješiti sve probleme čovječanstva, a onda ispasti da rješava samo problem tuđeg bankovnog računa.

A s druge strane, BCI — brain-computer interface — klinička ispitivanja konačno su krenula ozbiljno. Ljudi s paralizom dobivaju priliku da ponovno komuniciraju, da pokreću robote mišlju, da žive život koji im je oduzet. To je onaj dio priče koji ne prodaje dionice, ali prodaje dušu.

Koji kurac se događa sa svijetom kad su ti taj ljudi koji pričaju o čipovima u mozgu taj oni koji su ti prije pet godina prodavali NFT sličice majmuna? Pa taj taj. taj taj koji sad obećava da će ti čip u glavi riješiti depresiju, anksioznost i višak kilograma — za samo 99.99 dolara mjesečno, uz obaveznu pretplatu na cloud koji će ti sinkronizirati misli s Instagramom.

Nije slučajno. Nije drago. Nije greška.

Industrija je shvatila jednu stvar koju je moja baka znala od rođenja — ljudi su spremni vjerovati u sve dok im obećaš da će biti bolje. I dok im naplatiš. A naplaćivanje je postalo toliko sofisticirano da više ne znaš jesi li kupio proizvod, uslugu ili si samo postao proizvod.

Subquadratic bottleneck rješenje je matematički fascinantno. Smanjili su složenost s O(n²) na O(n log n) ili nešto slično, što u prijevodu znači da tvoj laptop više neće zvučati kao mlazni motor kad pokreneš ChatGPT. Ali to je onaj dio priče koji ćeš čuti u prvom paragrafu svakog tech bloga. Onaj drugi dio — tko posjeduje taj algoritam, tko kontrolira pristup, tko će odlučivati što smiješ pitati i što smiješ dobiti kao odgovor — taj dio se prodaje zasebno, uz premium pretplatu.

Isto kao i BCI. Čip u mozgu koji čita tvoje misli i pretvara ih u akciju. Zvuči kao znanstvena fantastika iz devedesetih, ali sad je stvarno. Klinička ispitivanja su u tijeku, ljudi s ozljedama kralježnice već testiraju prototipove. Nevjerojatno. Revolucionarno. Čovjek se ponovno rađa iz pepela tehnologije.

Ali.

Tko je vlasnik tih podataka? Tko vidi što tvoj mozak misli dok ti čip kalibrira? Koji kurac se događa s tvojom privatnošću kad je tvoja misao postala input za sustav koji netko drugi kontrolira? I tko garantira da sutra taj taj čip neće imati "sigurnosnu zakrpu" koja omogućava da tvoje misli o poslodavcu, političaru ili bivšoj ženi postanu javni podatak?

Nitko. Jer industrija ne radi na garancijama. Radi na hipu.

Sjećam se devedesetih, kad smo postavljali prve dial-up veze na Kvarner Netu. Ljudi su bili oduševljeni što mogu poslati email. Nisu pitali tko čita njihove poruke. Nisu pitali gdje se podaci pohranjuju. Nisu pitali koliko dugo će serveri raditi bez greške. Bilo je novo, bilo je uzbudljivo, i svi su htjeli dio toga.

I eto nas danas. taj ljudi, ista naivnost, samo skuplji gadgeti.

Subquadratic je obećao da će njihovo rješenje demokratizirati AI. Manje računalne snage, manje energije, manje novca. Zvuči sjajno. Ali demokratizacija u tech svijetu obično znači da ćeš ti dobiti pristup, a netko drugi će dobiti tvoje podatke. Jer besplatno ne postoji. Nikad nije postojalo. Čak ni u prirodi — sunce ti daje energiju, ali ti daje i rak kože.

A BCI? BCI će ti dati priliku da hodaš, da pričaš, da živiš. Ali će ti uzeti pravo da misliš bez da netko sluša. I to je cijena koju smo spremni platiti, jer je alternativa gora — biti zarobljen u vlastitom tijelu bez ikakve komunikacije.

Problem je što ta cijena nije transparentna. Ne piše na kutiji. Ne piše u uvjetima korištenja od 47 stranica koje nitko ne čita. Piše u situ kad se dogodi skandal, kad podaci procure, kad netko otkrije da je tvoja misao "kupiti mlijeko" postala dio trening seta za model koji predviđa tvoje potrošačke navike.

I onda ćeš se pitati — kako su znali da ću kupiti baš taj brand mlijeka? Kako su znali da razmišljam o novom autu? Kako su znali da planiram promijeniti posao?

Zato što je tvoj mozak postao input. I nisi ni primijetio.

Subquadratic bottleneck rješenje je tehnički impresivno. BCI ispitivanja su medicinski revolucionarna. Ali oboje dijele taj problem — vlasništvo. Tko posjeduje tvoje misli kad ih čita stroj? Tko posjeduje tvoje riječi kad ih generira algoritam?

Ako moraš objasniti zašto tvoj proizvod nije prijevara, vjerojatno jest.

I zato, dok slavimo proboj u matematičkoj složenosti i dok se radujemo ljudima koji ponovno hodaju zahvaljujući čipovima u mozgu, možda je vrijeme da zastanemo i postavimo jedno jednostavno pitanje: što smo spremni žrtvovati za napredak?

Jer odgovor je, kao i uvijek, taj. Sve. Dok ne bude prekasno.

Izvor: technologyreview.com