Crna rupa, Haarov slučajni proročki model i dokaz da je informacija fizička roba

Da je neko 1993. rekao da će fizičari dvadeset i pet godina kasnije pisati radove o tome koliko upita trebaš da izvučeš jedan jedini kubit iz zračenja crne rupe, dobio bi smijeh i kavu. Danas je to objavljeni preprint, s dokazom optimalne donje granice, u Haarovom slučajnom proročkom modelu. Zvuči kao naslov za znanstvenu konferenciju. U stvari je naslov za jednu drugu vrstu problema — onu koju industrija zove "AI alignment", a koja je matematički rođak problema šifriranja informacije u sustavu koji je upravo progutao sve što znaš o sebi.

Idemo po redu, jer red je jedino što ovo drži na okupu. Rad tvrdi sljedeće: ako crna rupa drži najviše jednu šesnaestinu ukupnog broja kubita sustava, i ako želiš vratiti jedan jedini kubit iz zračenja s BILO KAKVOM konstantnom prednošću nad trivijalnim dekodiranjem, broj upita koji ti trebaju raste proporcionalno s dimenzijom Hilbertovog prostora ostatka crne rupe. Ne logaritamski. Ne polinomijalno. Proporcionalno dimenziji. Što znači eksponencijalno u broju kubita. Što znači da je za crnu rupu od trideset kubita broj upita već veći od broja atoma u promatranom svemiru. I to je donja granica dokazana bez ikakvih pretpostavki o dekoderu — vrijedi za svaki algoritam koji nije unaprijed znao koju je crnu rupu dobio.

Prevedimo to na hrvatski za one koji su zadnji put čitali fiziku u srednjoj školi i od tada samo plaćaju struju. Crna rupa nije sef. Crna rupa je shredder koji je pojeo dokument, pa ga izbljucnuo u obliku konfeta koje lete po cijeloj sobi, a ti tvrdiš da možeš rekonstruirati original. Hawking je 1974. rekao da informacija nestaje. Dvadeset godina kasnije Susskind, 't Hooft i Maldacena rekli su da ne nestaje, samo se šifrira na način koji nitko razuman ne može dešifrirati. Ovaj rad je matematički dokaz da su ovi drugi bili u pravu — informacija JE tamo, ali je iza zida koji nije zid nego dimenzija prostora. Nije cenzura. Nije zabrana. Fizika.

Sad ono zanimljivo. Zašto ovo uopće pišem na tech portalu, a ne u časopisu za teorijsku fiziku? Zato što je ovaj rad, nesvjesno, najbolji argument protiv cijele industrije koja tvrdi da će skaliranje modela riješiti problem interpretabilnosti. Ako je istina da iz crne rupe ne možeš izvući ni jedan kubit bez eksponencijalnog broja upita, onda je istina i sljedeće: iz transformera s pedeset milijardi parametara ne možeš izvući ni jedan koncept bez broja upita koji raste s dimenzijom aktivacijskog prostora. Ne zato što su istraživači lijeni. Zato što je to matematički rezultat, a ne inženjerski problem. Nema "poboljšanja toolinga". Nema "boljeg prompta". Nema "većeg kontekstnog prozora". Postoji zid. Zid je dokazan. Koji kurac, zar ne?

Ovdje dolazimo do dijela zbog kojeg ću dobiti prijetnje od ljudi u crnim jaknama. Postoji cijela kasta komentatora, konzultanata i LinkedIn filozofa koja prodaje ideju da je "interpretabilnost" pitanje truda. Da treba samo "otvoriti crnu kutiju". Da će Anthropic, OpenAI ili DeepMind, s dovoljno novca i dovoljno GPU-a, razumjeti što se događa unutar modela. Ovaj rad — ne specifično o modelima, ali o matematičkoj strukturi identičnog problema — kaže da neće. Ne zbog nedostatka sredstava. Zbog dimenzije prostora. I to je konceptualno najvažnija vijest iz kvantne informacije u zadnjih pet godina, a nitko je neće pročitati jer je naslov previše tehnički za Twitter i previše apstraktan za novine.

Idemo korak dalje. Ako informacija u crnoj rupi postoji ali je nedostupna, i ako isti matematički aparat opisuje i neuronske mreže, onda je cijela priča o "AI koji će se sam objasniti" — priča. Bajka za investitore. Ne zato što neki istraživač ne zna. Zato što nitko ne zna, i nitko ne može znati, jer je cijena znanja eksponencijalna. Ovo nije filozofija. Ovo je teorem. I teorem ne pregovara.

Pogledajmo što to znači za industriju koja je u zadnje tri godine podigla više kapitala nego hrvatska država u zadnjih trideset, a da pritom nije dokazala ni jedno jedino fundamentalno razumijevanje vlastitog proizvoda. Ako je interpretabilnost matematički nedostupna u općem slučaju, onda je jedina preostala strategija — aproksimacija. Heuristika. "Izgleda kao da razumijemo." I to je upravo ono što dobivaš kad pitaš model da objasni svoj output: generira uvjerljiv narativ koji nema veze s unutrašnjim stanjem, jer unutrašnje stanje je iza zida dimenzije. Model ne laže. Model ne može ne lagati. Isto kao što crna rupa ne skriva informaciju — crna rupa je jednostavno prevelika da bi je itko pročitao.

Ako je AI toliko pametan, zašto mu treba pet godina i snaga države da nauči razliku između psa i muffina? Odgovor, ispostavlja se, nije "jer je glup". Odgovor je "jer je svaka informacija o tome što je pas zakopana iza eksponencijalne barijere u prostoru parametara, i sve što model radi je statistička aproksimacija te informacije, a ne njeno stvarno razumijevanje". Zvuči gadno. Je gadno. Ali je istinito.

Sad, dio zbog kojeg je ovaj rad važniji od bilo kojeg benchmarka. Kvantna informacija je jedina grana fizike koja je u zadnjih dvadeset godina proizvela niz tvrdih donjih granica za "učenje" i "rekonstrukciju" u sustavima s velikim brojem stupnjeva slobode. Te granice nisu filozofske. Nisu interpretativne. Nisu "ovisi o modelu". One su matematičke činjenice o prirodi informacije. Ako itko u Silicijskoj dolini želi ozbiljno govoriti o sigurnosti AI-a, mora prvo pročitati ovakve radove i priznati da je dio njegovih obećanja matematički nemoguć. Ne teško. Nemoguć.

E sad, što je s kvantnim računalima? Jer tu je pravi novac. Ako ti treba eksponencijalno mnogo upita da izvučeš jedan kubit iz crne rupe, koliko ti treba da izvučeš jedan kubit iz kvantnog računala koje radi istu stvar u drugom kontekstu? Isti aparat, ista granica. Ovo je argument protiv one vrste "kvantnog strojnog učenja" koja obećava da će kvantni sustavi rješavati probleme koje klasični ne mogu, a da pritom nitko ne pita kako ćeš pročitati rezultat. Jer čitanje rezultata iz kvantnog sustava je upravo problem iz naslova — rekonstrukcija informacije iz zračenja. Ako je donja granica eksponencijalna, onda kvantno računalo nije "brže". Ono je "dostupno samo za probleme kod kojih te barijera ne zanima". To je mnogo uža klasa problema nego što se prodaje.

Vratimo se na početak. Rad je objavljen na arXivu, u kategoriji hep-th, bez press releasea, bez PR tima, bez ijednog citata u TechCrunchu. To je normalno. To je znanost. Ali ono što nije normalno je da industrija koja tvrdi da gradi "inteligentne sustave" godinama ignorira čitavu klasu rezultata koji joj govore gdje su granice. Ne zato što su rezultati novi. Zato što su neugodni. Neugodni su jer znače da dio onoga što se prodaje kao "budućnost" nije budućnost nego — aproksimacija. Uvjerljiva, skupa, marketinški lijepo upakirana, ali aproksimacija.

I to je poanta. Ne da je AI beskoristan. AI je koristan kao i svaka aproksimacija: dovoljno dobra za većinu praktičnih slučajeva, nedovoljno dobra za fundamentalno razumijevanje. Isto kao što je Newtonova mehanika korisna za gradnju mostova, a ne korisna za GPS satelite. Razlika je u tome što Newton nije tvrdio da razumije gravitaciju. Einstein je. Ova industrija tvrdi da razumije inteligenciju. Ne razumije. I sad ima teorem koji to dokazuje.

Naravno, netko će reći: "Pa dobro, to je samo Haarov model, to nije stvarni svijet." Točno. Haarov model je idealizacija. Ali donje granice u idealiziranim modelima su upravo ono što ti govori gdje su granice i u realnim. Ako ne možeš u idealiziranom slučaju, nećeš ni u realnom. Fizika ne radi tako da ide od lakšeg prema težem. Radi obrnuto: prvo dokazuješ što je nemoguće u najčišćem slučaju, pa onda gledaš koliko ti realnost dopušta da se približiš. Ovdje realnost ne dopušta mnogo.

Zaključak je jednostavan i neugodan. Crna rupa ne skriva informaciju. Skriva je dimenzija. Model ne skriva razumijevanje. Skriva ga dimenzija. Isti problem, ista matematika, ista granica. Ako želiš razumjeti sustav, moraš platiti cijenu koja raste eksponencijalno s njegovom veličinom. Nema popusta. Nema GPU-a koji to rješava. Nema "skaliranja" koje to zaobilazi. Postoji zid, i zid je dokazan.

Ono što industrija može je priznati da gradi aproksimacije, a ne razumijevanje. Ono što ne može je nastaviti prodavati priču da će sljedeći model biti "dovoljno velik da se sam objasni". Neće. Ne može. Matematika ne dopušta.

Budućnost je stigla. Donijela je račun — i račun je eksponencijalan.

Izvor: arxiv.org