Pedeset milijardi dolara je iznos za koji bi u normalnom svijetu dobio mali otok, privatnu vojsku i...

Odgovor je, naravno, banalan i prlja ruke: veliki modeli su skupi, a skupe stvari se lakše prodaju investitorima. Kad sjedneš pred fond koji ima dvjesto milijardi dolara pod upravljanjem i kažeš: "Trebam vam četrdeset milijardi za izgradnju tvornice čipova jer će sljedeća generacija modela zahtijevati još više parametara", to zvuči ozbiljno. Zvuči kao plan. Zvuči kao nešto što zahtijeva povjerenje, stručnost i — što je najvažnije — ogroman novac koji netko mora dati. S druge strane, dođeš li s pričom: "Imamo metodu koja koristi sto puta manje računalne snage, ali daje iste rezultate", reakcija je obično: "Super, javi se kad budeš imao proizvod." I tako se industrija vrti u krug, financirajući rješenja koja su skupa ne zato što su nužno bolja, nego zato što su skuplja. To nije tehnologija. To je financijski inženjering prerušen u znanost.

Sama metoda koju su istraživači opisali zvuči kao nešto što bi svaki inženjer s iskustvom u stvarnom svijetu prepoznao kao zdrav razum: umjesto da treniraš model na milijardama primjera i nadaš se da će naučiti generalizirati, ti ga naučiš da razmišlja kroz ograničen skup pravila i onda mu daš povratnu informaciju samo kad pogriješi. To je kao kad učiš klinca voziti bicikl — ne moraš mu objasniti fiziku balansa i centrifugalne sile, dovoljno je da ga gurneš nizbrdo i vikneš "pazi na kamen" kad ga vidiš. I klinac nauči. Brzo. Bez knjige od tisuću stranica i bez simulacije koja traje tri mjeseca. Ali u svijetu umjetne inteligencije, taj pristup je bio marginaliziran jer ne zvuči dovoljno impresivno. Ne zvuči kao "revolucija". Zvuči kao posao. I zato su ga ignorirali dok troškovi nisu postali toliko apsurdni da su i najveći optimisti morali priznati da ovako više ne ide.

A tu dolazimo do ključnog momenta koji će odrediti sudbinu cijele ove priče: hoće li velike kompanije, one koje su uložile milijarde u infrastrukturu, dopustiti da ih se nadmaši s manje resursa? Jer zamisli scenarij u kojem mala ekipa iz nekog kineskog sveučilišta, ili još gore, iz garaže u Rijeci, razvije model koji je jednako dobar kao GPT-4, ali ga pokreće jedan server i troši struju kao kućno računalo. Što se događa s onih pedeset milijardi dolara vrijednom infrastrukturom? Što se događa s narativom da je umjetna inteligencija skupa, rijetka i da je samo najbogatiji mogu razvijati? Pas mater, cijela se industrija temelji na toj pretpostavci. Ako jedna studija, jedan rad, jedan pristup sruši tu pretpostavku, onda se ne ruši samo tehnologija — ruši se poslovni model. I zato će se ova metoda boriti protiv nevidljivog zida koji se zove "nismo mi to financirali, pa ne može biti dobro".

Ali ima i druga strana medalje, ona koja miriše na priliku. Jer svaki put kad industrija kaže "ovo je preskupo da bi bilo dostupno svima", netko negdje nađe način da to napravi jeftinije. Nije to nikakva tajna. To je povijest tehnologije. Računala su bila veličine sobe i koštala su milijune — dok netko nije izumio mikroprocesor. Internet je bio za vojsku i sveučilišta — dok netko nije izumio World Wide Web. Mobilni telefoni su bili cigle za bogataše — dok netko nije izumio pametni telefon. I sada, kad je umjetna inteligencija postala statusni simbol i financijski crni bazen, pojavljuje se metoda koja kaže: "Može i s manje." I to ne dolazi iz Silicijske doline, nego iz Kine, iz akademskog svijeta, iz mjesta gdje nemaju luksuz bacanja milijardi na eksperimente. To je ono što bi svakog starog inženjera, koji se sjeća vremena kad si morao optimizirati svaki bajt jer si imao samo 64 kilobajta RAM-a, natjeralo na osmijeh. Optimizacija se vraća. I vraća se s osvetom.

No, naravno, postoji i mogućnost da je ova metoda samo još jedan u nizu obećanja koja se neće ostvariti u praksi. Da su istraživači uspjeli u kontroliranom okruženju, s ograničenim skupom problema, ali da skaliranje na stvarne svjetske aplikacije zahtijeva upravo onu količinu resursa koju su pokušali izbjeći. To je stara priča u akademskim krugovima: radi u laboratoriju, ne radi u stvarnom svijetu. Ali čak i ako je to slučaj, sam pokušaj je vrijedan pažnje. Jer postavlja pitanje koje industrija izbjegava: zašto je prihvaćeno da je jedini put naprijed više parametara, više podataka, više energije? Zašto nitko ne pita: "A što ako smo krivo postavili problem?" I zato je ova vijest, čak i ako se ispostavi da je tehnički nepotpuna, važna. Jer uvodi sumnju. A sumnja je prvi korak prema napretku.

I dok veliki igrači pripremaju sljedeću rundu financiranja, dok investitori traže sljedeću veliku stvar u koju će uliti novac, negdje u laboratoriju, na starom serveru koji zuji kao da će eksplodirati, netko testira ovu metodu. I možda, samo možda, uspije. I onda se cijela industrija budi i shvaća da je deset godina jurila u krivom smjeru, trošeći resurse kao da ih ima beskonačno, dok je rješenje stajalo na polici, prekriveno prašinom akademskih radova koje nitko nije čitao jer nisu bili dovoljno spektakularni. To bi bila ironija. To bi bila istina. I to bi bio kraj jedne ere.

Ako moraš objasniti zašto tvoj proizvod nije prijevara, vjerojatno jest.

Izvor: venturebeat.com