Provjera činjenica koja priznaje da ne zna je kao konobar koji kaže da je kuhinja zatvorena

Evidence Chain Evaluation, kako su to akademici nazvali, nije samo još jedan papir na hrpi. To je priznanje da su veliki jezični modeli, ti taj modeli kojima kompanije vjeruju dijagnoze, financijske izvještaje i sudske presude, u osnovi nesposobni reći "ne znam" na način koji bi itko ozbiljno shvatio. Ne zato što ne mogu, nego zato što ih je netko naučio da je "ne znam" smrtna presuda za investiciju.

Pogledaj kako funkcionira. LLM dobije tvrdnju, proguta podatke, izbaci presudu. Točno ili netočno, crno ili bijelo, nema sijedih zona, nema "trebalo bi još provjeriti", nema "izvori su kontradiktorni". Ako je izlaz uvijek taj, povjerenje raste. Ako izlaz uključuje nesigurnost, povjerenje pada. To je matematika koju su startupi naučili napamet: bolje biti brz i pogriješiti nego spor i iskren.

Istraživači su uzeli taj problem i okrenuli ga naopačke. Umjesto da forsiraju binarnu odluku, dopuštaju modelu da kaže "suzdržavam se". Ne kao znak slabosti, nego kao znak zdravog razuma. Ako je lanac dokaza tanak kao papir na kojem su ispisani uvjeti korištenja, model ne mora izmišljati odgovor. Može reći: "Ovdje nema dovoljno mesa, vrati se kad budeš imao prave podatke."

To je jebeno revolucionarno u svijetu gdje svaki model gura "točno" ili "netočno" s arogancijom prodavača rabljenih automobila koji ti garantira da auto nije bio u sudaru, iako mu blatobran drži selotejp. Činjenična provjera je postala industrija sama za sebi, s vlastitim standardima, vlastitim herojima i vlastitim skandalima. A sad netko kaže: "Hej, možda bi bilo pametnije priznati kad ne znaš."

Zamisli tu ideju u stvarnom svijetu. Sudac koji kaže: "Ne mogu donijeti presudu, dokazi su preslabi." Liječnik koji kaže: "Nisam siguran u dijagnozu, trebamo još pretraga." Novinar koji kaže: "Ne mogu potvrditi tu informaciju, izvori su nepouzdani." Zvuči kao zdrav razum, zar ne? Ali u svijetu gdje svi očekuju instant odgovore, gdje je brzina valuta, gdje je nesigurnost smrtni grijeh, to je revolucija.

Industrija je izgradila cijeli ekosustav na laži da su modeli pouzdani. Prodali su nam priču o savršenom asistentu koji nikad ne griješi, nikad ne sumnja, nikad ne treba provjeru. A istina je da modeli ne razumiju što rade. Oni su matematički strojevi za prepoznavanje uzoraka, ne svjesna bića. Kad im daš kontradiktorne podatke, oni ih progutaju i izbace prosjek. Prosjek ne postoji u stvarnosti. Prosjek je laž.

Zato je ovaj pristup važan. Ne zato što rješava problem, nego zato što ga imenuje. "Ne znam" nije poraz, nego početak pravog razgovora. Ako model kaže "ne znam", korisnik zna da treba provjeriti drugdje. Ako model kaže "točno" s 99% sigurnosti, korisnik misli da je posao gotov. Razlika je u transparentnosti, u iskrenosti, u odgovornosti.

Ali naravno, industrija neće prihvatiti ovu ideju s oduševljenjem. Previše je novca u binarnim odgovorima. Previše je uloženo u priču da su modeli pametniji od ljudi. Previše je CEO-ova koji su obećali investitorima da će AI riješiti sve probleme, a sad im netko kaže da bi model trebao priznati kad ne zna. To je kao reći prodavaču magle da je magla zapravo para. Prodavač će se naljutiti, ali kupac bi trebao biti zahvalan.

I tu dolazimo do najzanimljivijeg dijela. Ovaj papir ne nudi rješenje, nudi okvir. Ne kaže "evo kako ćemo riješiti problem", kaže "evo kako bismo trebali razmišljati o problemu". To je intelektualna poštenost koja je rijetka u svijetu gdje svaki drugi papir obećava revoluciju. Nema revolucije. Ima evolucije. Ima priznanja da su modeli alati, ne bogovi. Ima odgovornosti.

Zamisli svijet u kojem svaki model ima ugrađen mehanizam za suzdržavanje. Svaki put kad bi model rekao "ne znam", korisnik bi morao provjeriti. To bi značilo manje automatizacije, više ljudske provjere, više vremena. Ali bi značilo i manje grešaka. Manje lažnih vijesti. Manje sudskih presuda donesenih na temelju loših podataka. Manje financijskih odluka temeljenih na halucinacijama.

Problem je što industrija ne želi manje. Želi više. Više podataka, više modela, više automatizacije, više profita. "Ne znam" ne prodaje. "Ne znam" ne privlači investitore. "Ne znam" ne gradi carstva. "Ne znam" je ružna riječ u svijetu gdje je sve moguće, gdje je sve skalabilno, gdje je sve disruptivno.

Ali istina je da je "ne znam" jedina iskrena rečenica koju model može reći. Jer model ne zna. Model nikad nije znao. Model je uvijek samo nagađao, samo ekstrapolirao, samo simulirao znanje. A sad netko konačno kaže: "Hej, možda bi bilo pametno priznati to."

I tako smo opet izumili kotač. Ovaj put s pretplatom i uvjetima korištenja od 47 stranica.

Izvor: arxiv.org