Kineski AI bez Nvidije
Trideset milijardi dolara vrijedna kompanija za dostavu hrane upravo je demonstrirala da može trenirati ogromne jezične modele bez ijednog Nvidijinog čipa. Meituan, firma koja ti donosi kinesku verziju Wolta, izbacila je LongCat-2.0, model s 135 milijardi parametara koji je, navodno, treniran isključivo na AMD-ovim GPU-ovima. I dok se cijeli zapadni svijet dere da je Nvidia jedini put do AGI-ja, Kinezi su tiho napravili ono što su svi govorili da je nemoguće — napravili su veliki model bez Nvidije. Pas mater.
Pristup koji su koristili je, tehnički gledano, jebeno pametan. Umjesto da čekaju Nvidijine H100 čipove koji su pod embargom, uzeli su AMD-ove MI250 i MI300X čipove, napisali vlastiti softverski sloj za optimizaciju, i trenirali model. Rezultat? Model koji, prema njihovim tvrdnjama, nije inferioran modelima treniranim na Nvidijinoj arhitekturi. Sada, naravno, treba uzeti u obzir da su te tvrdnje objavljene u kineskom mediju i da ih nitko neovisan nije verificirao. Ali i ako je samo 70 posto istine, to je dovoljno da se cijela industrija zamisli.
Jer evo u čemu je kvaka — cijeli narativ o Nvidijinoj neophodnosti nije tehnički, nego politički. Američki embargo na izvoz naprednih čipova u Kinu trebao je biti smrtni udarac kineskim AI ambicijama. Trebao je biti. Umjesto toga, natjerao je Kineze da riješe problem koji je cijeli zapadni tech sektor ignorirao godinama — ovisnost o jednom dobavljaču. A kad moraš, možeš. To je stara istina koju je svaki startup naučio na teži način: ograničenja su majka izuma. Samo što u ovom slučaju ograničenje nije budžet, nego geopolitička odluka nekog političara u Washingtonu.
Ono što je posebno zanimljivo nije sam model, nego infrastruktura koju su izgradili da bi ga trenirali. Meituan je morao napisati vlastite CUDA alternative, optimizirati memorijski bandwidth, riješiti problem komunikacije između tisuća AMD čipova koji nikad nisu bili dizajnirani za ovakvu vrstu posla. To nije softverski hack, to je inženjerski podvig razine "napravimo Ferrari od dijelova traktora". I ako su uspjeli, to znači da je Nvidijin monopol na AI trening hardver upravo dobio prvu ozbiljnu pukotinu.
Ali naravno, cijela priča ima i drugu stranu koju nitko ne spominje. AMD-ovi čipovi su, objektivno, manje energetski učinkoviti od Nvidijinih za ovu vrstu izračuna. To znači da je račun za struju vjerojatno bio veći, trening je trajao duže, a za hlađenje su trebali dodatne resurse. U svijetu gdje svaki megavat-sat broji, to nije trivijalan problem. Ali Kinezi imaju jednu prednost koju Zapad nema — jeftinu energiju iz ugljena i hidroelektrana, plus državu koja je spremna subvencionirati bilo kakav tehnološki napredak bez obzira na cijenu.
Pitanje koje se nameće, a koje nitko ne postavlja, je sljedeće: ako je kineska kompanija za dostavu hrane uspjela trenirati 135 milijardi parametara na AMD čipovima, zašto to nije napravila niti jedna američka kompanija? Odgovor je, naravno, banalan — jer nisu morali. Kad imaš neograničen pristup najboljem hardveru, nema potrebe optimizirati za alternativu. To je ista ona logika zbog koje su američke kompanije ignorirale energetsku učinkovitost dok cijene struje nisu eksplodirale. Monopol stvara lijenost. A lijenost stvara ranjivost.
Ono što ova vijest zapravo govori nije da je AMD postao ozbiljan konkurent Nvidiji u AI treningu — još uvijek nije, barem ne u performansama. Ono što govori je da je Kina, potpuno slučajno, izgradila alternativni AI ekosustav koji ne ovisi o američkom hardveru. I taj ekosustav, koliko god danas bio manje učinkovit, sutra bi mogao biti dovoljno dobar. A u geopolitici, kao i u tehnologiji, "dovoljno dobar" često pobjeđuje "najbolji" kad je jedini dostupan.
Sjećam se devedesetih, dok smo pokretali Kvarner Net, nabavka opreme je bila noćna mora. Cisco routeri su bili preskupi, a alternative su bile smeće. Pa smo uzimali što smo mogli, krpali, optimizirali, i na kraju — radilo je. Nije bilo brzo kao Cisco, ali je bilo dovoljno dobro za tadašnje potrebe. I upravo to radi Meituan danas. Uzima što može, optimizira dok ne radi, i gura dalje. Jer alternativa nije postojala.
A sad dolazi najbolji dio — dok se američke kompanije bore s Nvidijom oko cijena i dostupnosti H100 čipova, dok čekaju u redovima od 12 mjeseci, Kinezi su već na drugoj iteraciji. LongCat-2.0 je samo početak. Sljedeći model će biti veći, brži, i treniran na još jeftinijem hardveru. I u jednom trenutku, netko u Pentagonu će se probuditi i shvatiti da je embargo, umjesto da je uništio kineski AI, zapravo stvorio nezavisni ekosustav koji više ne treba američke čipove. Ironija, jebote, ubija.
Jedina konstanta u tech industriji je sposobnost ljudi da budu iznenađeni očekivanim.
Izvor: the-decoder.com
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari