Ako vam je dosadno plaćati najam za lopatu u tuđem snijegu, pogledajte kako RiNET pristupa izgradnji održivih AI rješenja.

Dok je Jensen Huang stajao na pozornici u konferencijskom centru u San Joseu, noseći svoju ikoničnu crnu jaknu, a ne odijelo od 20.000 dolara, i objašnjavao kako će nova Blackwell arhitektura promijeniti svijet, jednu sam stvar mogao misliti: jesmo li svi mi postali statisti u Nvidia-inom marketinškom spektaklu koji se zove GTC? TechCrunch-ov Equity podcast, s naslovom koji podsjeća na pjesmu iz Frozena, pokušava uhvatiti tu atmosferu – mješavinu čuđenja, straha i cinizma. Ali pitanje nije želimo li graditi robotskog snjegovića.

Pitanje je možemo li si ga uopće priuštiti i hoće li taj snjegović, jednom napravljen, raditi za nas ili ćemo mi raditi za njega. Monopolistička pozicija Nvidia-e nije slučajnost; to je savršeno izveden plan izgrađen na dvije stvari: hardverskoj superiornosti i ekosistemu koji je toliko duboko ukorijenjen da ga je nemoguće iskorijeniti. CUDA, Nvidia-in softverski okvir, nije samo alat; to je jezik kojim govori cijela industrija umjetne inteligencije.

To je kao da jedina tvrtka na svijetu koja prodaje čekiće usput izumi čavle, drvo i koncept kuće, a zatim natjera sve graditelje da koriste samo njezine nacrte. Huang je to shvatio prije svih. Dok su se Intel i AMD prepucavale oko megaherca za gaming, on je vidio da će prava bitka biti oko paralelnog procesiranja za znanost i AI. Rezultat?

Danas, ako želite ozbiljno trenirati model, nemate izbora. Nvidia je jedina igra u gradu, a cijena ulaznice raste eksponencijalno. Usporedite to s onim što se događa u Europi, pa i u Hrvatskoj. Dok Nvidia najavljuje sustave koji koštaju kao mala zrakoplovna flota, naši se startupovi bore da skupaju dovoljno kredita na cloud platformama samo da bi pokrenuli finetuning na GPT-4.

Čuo sam za jedan zagrebački startup čiji mjesečni trošak za OpenAI API doseže apsurdne iznose, gotovo 80% njihovog burn rate-a. Oni ne grade robotske snjegoviće; oni plaćaju najam za lopatu u snijegu koju posjeduje netko drugi. To nije tehnološka revolucija; to je tehnološki feudalizam. Jensen Huang gradi dvorce, a mi smo seljaci koji plaćaju da obrade njegovu zemlju.

Equity podcast spominje "debatu o budućnosti Nvidia-e", ali kakva je to debata kada jedna strana ima sve čipove, doslovno? A onda dođe cijena. Nvidia-in profitna marža je postala stvar legendi. Prodaju čipove koji koštaju nekoliko stotina dolara za proizvodnju po cijenama koje se mjere desecima tisuća.

To nije više tržište; to je opskrbni lanac za zlato u vrijeme zlatne groznice. Oni ne prodaju lopatice, oni prodaju koncesije za kopanje. A svi mi, od velikih tech giganta do fakultetskih istraživača, stojimo u redu i molimo da nas ne oderu previše. Najsmješnije je što se svi ponašaju kao da je to neizbježan zakon fizike.

"Pa naravno da košta toliko, to je najnaprednija tehnologija!" Da, i jednom je sol bila vrijednija od zlata jer je kontrolirala carstvo. Monopoli stvaraju vlastite stvarnosti. Što se tiče konkurencije, kao što je AMD ili onih mnoštvo startupa koji rade na AI čipovima, situacija je patetična. To je kao da se netko pojavi na utrci Formule 1 s biciklom i kaže: "Ali moj je lakši i zeleniji!" CUDA ekosistem je toliko ogroman, toliko isprepleten s kodom, bibliotekama, alatima i znanjem svih developera na svijetu, da čak i da AMD napravi čip koji je dvostruko brži i upola jeftiniji (što ne čini), i dalje bi imao ogroman problem usvajanja.

Razvoj AI-a se ne događa u vakumu; događa se u laboratorijima gdje doktorandi već desetljeće pišu kod za CUDA. Prebacivanje je kao traženje od cijele nacije da pređe s Windowsa na Linux preko noći. Tehnički je moguće, ali u praksi je jebeno kaotično. Onda imate cloud divove: AWS, Google Cloud, Microsoft Azure.

Oni su Nvidia-ini najveći kupci, ali i potencijalni najveći neprijatelji. Razvijaju vlastite čipove (Google-ov TPU, AWS Graviton) u pokušaju da smanje ovu užasnu ovisnost. Ali čak i oni su zarobljeni u kratkom roku. Potražnja je toliko velika da moraju naručivati Nvidia-ine čipove u ogromnim količinama, samo da bi zadovoljili svoje korisnike.

To je paradoks: grade vlastite izlaze iz zatvora, ali prvo moraju platiti nadzorniku da im proda cigle za zidove. TechCrunch-ov podcast spominje Huangovu viziju "AI tvornica", ali prava tvornica je ovdje – tvornica novca, a Nvidia upravlja turbine. Gdje smo mi, mala riba u ovom oceanu, u svemu tome? Kada sam 1996. pokrenuo Kvarner Net, internet je bio pustinja puna mogućnosti.

Svatko je mogao postaviti server, napisati protokol, izmisliti budućnost. Danas, da biste sudjelovali u AI revoluciji, trebate kapital veličine nacionalnog budžeta male države. To guši inovacije tamo gdje one najviše rastu – u garažama, na fakultetima, u glavama ljudi koji imaju ludu ideju, ali nemaju 5 milijuna dolara za rack servera s H100 čipovima. Cijela priča o "demokratizaciji AI-a" koju cloud provideri prodaju je iluzija.

Oni rentaju komade monopolističke moći, ne razbijaju je. Zato, unatoč svemu, inzistiram na pristupu koji sam nazvao RiNET LLM waterfall: lokalno prvo, cloud tek ako baš moraš. To nije samo nostalgija ili inat. To je praktična, preživljavalačka strategija.

Umjesto da odmah skačete na najskuplji AWS instance, istražite što možete postići s finetuningom manjeg, otvorenog modela na vlastitom poslužitelju. Umjesto da se zakopate u dugove za API pozive, uložite u znanje svog tima o MLOpsu i lokalnoj inferenciji. To neće riješiti globalni problem Nvidia-ine dominacije, ali će vam dati nešto puno vrijednije: kontrolu. Kontrolu nad svojim podacima, svojim troškovima, svojim produktom.

Ne gradite snjegovića na tuđem bregu, gdje će se otopiti čim prestanete plaćati najam. Jensen Huang je, bez sumnje, genijalni strateg. Izgradio je ne samo najvrijedniju tvrtku na svijetu, već i cijeli novi ekonomski sustav oko nje. Ali povijest nas uči da se ni jedan monopol ne održava zauvijek.

Potres dolazi iz neočekivanog smjera. Možda će to biti potpuno novi način računanja koji zaobilazi GPU potrebu. Možda će to biti kolektivni bunt velikih cloudova. Ili možda, samo možda, to će biti gomila ljudi u garažama širom svijeta, uključujući i one u Rijeci ili Zagrebu, koji će odlučiti da je cijena ulaska u tuđi san previsoka i početi graditi vlastiti, jeftiniji pijesak. techcrunch.com

Izvor: techcrunch.com