Matematički dokaz koji je AI pronašao ne vrijedi ništa dok ga čovjek ne provjeri

Postoji scena u svakoj dobroj kriminalističkoj seriji gdje forenzičar uđe u prostoriju, pogleda leš i kaže: "Vrijeme smrti, otprilike jučer popodne." Nitko ga ne pita KAKO zna. Nitko ne traži da mu ponovi proceduru. Svi samo kimnu, jer je lik očito stručnjak, i serija ide dalje. E, pa upravo tako danas funkcionira matematika kad je radi umjetna inteligencija. Netko objavi da je model dokazao teorem, svi kimnu, i nitko — baš nitko — ne pita ono što bi trebao pitati: a ko je, koji kurac, provjerio da je taj dokaz točan?

Jer to je cijela poanta znanosti. Ne otkriće. Provjera. Otkriće je jeftino. Provjera je skupa, dosadna, i traje godinama. A upravo tu dosadnu, skupu, nezahvalnu fazu nitko ne želi financirati, jer se na konferencijama za novinare ne možeš hvaliti time da si strpljivo sjeo i ručno provjerio 400 stranica formalnog dokaza koji je izbljuvao model u četrdeset sekundi.

Evo u čemu je stvar, i to je ono što ljudi koji ne rade u ovom poslu nikako da shvate. Matematički dokaz nije istinit zato što izgleda uvjerljivo. Nije istinit zato što ga je napisao pametan autor. Nije istinit zato što je elegantan, ni zato što je kratak, ni zato što ga je potpisalo neko s Nobelom. Dokaz je istinit tek kad ga je neovisna zajednica rastavila na atome, provjerila svaki korak, i nije našla rupu. To je proces koji je star koliko i matematika, i koji je jedini razlog zašto danas uopće možemo vjerovati ijednom teoremu starijem od pedeset godina.

I onda dođe AI, i cijeli taj proces — proces koji je građen stoljećima, proces koji je spor upravo zato što je rigorozan — odjednom postane usko grlo. Model generira dokaz u sekundi. Provjera tog dokaza traje tjednima. Tjednima ljudskog rada doktoranata i postdoktoranata koji bi mogli raditi nešto korisnije, recimo pisati vlastite dokaze, ili predavati studentima, ili spavati. Umjesto toga, sjede i liniju po liniju provjeravaju je li stroj negdje u koraku 238 zamijenio implikaciju s ekvivalencijom.

To nije napredak. To je nova vrsta duga. AI duguje ljudima vrijeme, i nitko ne zna kako će ga vratiti.

A sada dio koji boli. Ako model generira dokaz koji nitko ne može provjeriti u razumnom roku, što smo točno dobili? Dobili smo papir. Dobili smo PDF. Dobili smo nešto što izgleda kao znanje, miriše kao znanje, i ponaša se kao znanje — ali nije znanje, jer znanje je ono što je provjereno, a ne ono što je proizvedeno. Ovo je ista razlika kao između vijesti i glasine. Ista riječ na papiru, nebo i zemlja u posljedicama.

I tu nastupa najgori dio cijele priče. Kad ne možeš provjeriti dokaz, počinješ vjerovati autoru. Ne dokazu — autoru. Počinješ govoriti: "Pa, model je dosad bio u pravu u 94 posto slučajeva, vjerojatno je i sad." To nije matematika. To je klađenje. To je isto kao da kažeš da je vremenska prognoza za sutra točna jer je jučer bila. Možda jest. Ali ne znaš zašto. A kad ne znaš zašto, nisi matematičar. Ti si navijač.

I upravo tu leži zamka u koju će se uloviti cijela akademska zajednica ako ne pazi. Jer kad ti jednom dopusti da "vjerojatno točan dokaz" prođe kao dokaz, ti si upravo srušio temelj na kojem počiva sve. Ne samo matematika. Fizika. Kemija. Medicina. Svaki teorem, svaki zakon, svaki lijek koji danas uzimaš — sve to stoji na pretpostavci da je netko, negdje, u nekom trenutku, sjeo i provjerio. Ako ta pretpostavka padne, pada sve.

A najgore je što nitko neće to primijetiti. Jer pad rigoroznosti ne izgleda kao pad. Izgleda kao ubrzanje. Izgleda kao produktivnost. Izgleda kao članak na naslovnici o tome kako je AI riješio problem koji je mučio ljude stotinu godina. Nitko ne piše članke o tome kako nitko nije provjerio je li riješio ispravno.

Postoji i dublji problem, onaj koji ljudi iz industrije ne vole spominjati jer se od njega ne može napraviti demo. Formalna verifikacija — strojna provjera dokaza — postoji. Nije egzotična, nije nova, ima je već desetljećima. Alati poput Coqa i Leana rade upravo to: uzmeš dokaz, prevedeš ga u jezik koji stroj razumije, i stroj ti kaže je li valjan ili nije. To je rješenje. To je očito rješenje. I to rješenje nitko ne koristi masovno, jer je sporo, jer zahtijeva ljude koji znaju i matematiku i programiranje, i jer — gle čuda — ne izgleda dobro na naslovnici.

Umjesto toga, dobili smo press release. Model je dokazao nešto. Sve ostalo prepuštamo vjeri.

Ako je AI toliko pametan, zašto mu treba ljudski doktorand da provjeri je li u pravu? Moja baka zna da se ne jede iz tuđeg tanjura. Model ne zna da implikacija nije isto što i ekvivalencija dok mu ne pokažeš. I onda ga pokažeš, i on kaže "ups", i svi se smiju, i idemo dalje. Samo što u matematici "ups" nije smiješan. "Ups" je dokaz da cijeli sustav vjerovanja koji si izgradio ne stoji.

I tako dolazimo do srži. Nije problem što AI radi matematiku. Nije problem što je brz. Problem je što je brži od naše sposobnosti da ga provjerimo, a mi to još nismo priznali sami sebi. Priznali smo samo ono lijepo: da AI pomaže. Nismo priznali ono ružno: da AI stvara dokaze koje nitko ne može potvrditi, i da mi te dokaze, potajno, prihvaćamo na temelju povjerenja. A povjerenje je ono što matematika nikad nije trebala. Matematika je trebala dokaz. I još uvijek ga treba.

Sve ostalo je marketing.

Izvor: openai.com