Snowflake Cortex AI Gateway — kad ti treba tatin pojas za AI agente

Trideset tisuća dolara na satu je brojka koju će uskoro spominjati svaki CFO koji je dopustio timu da puste AI agente u produkciju bez nadzora, a to je otprilike jednako iznosu koji bi u normalnom svijetu pokrio godišnju plaću dvojice junior developera, ali u svijetu enterprise clouda to je samo još jedan redak u mjesečnom računu koji će netko morati objasniti upravi. Snowflake je izbacio Cortex AI Gateway, centralizirani kontrolni sloj za upravljanje AI agentima, uključujući one koje su napravili konkurenti poput Claude Code i Cursor, što zvuči kao da je netko konačno shvatio da agenti bez nadzora nisu pametni pomoćnici nego digitalni tinejdžeri s kreditnom karticom i pristupom bazi podataka. I to nije šala — kad agent s pravom pristupa krene samoinicijativno pozivati API-je, troškovi mogu eskalirati brže nego što bi itko stigao reći "ali pa mi smo mislili da će optimizirati potrošnju". Cijeli koncept je, naravno, apsurdan na način koji samo enterprise tech može biti. Proveli smo dvije godine gradeći agente koji "razumiju kontekst" i "donose autonomne odluke", a sad shvaćamo da im trebamo staviti ogradu jer, iznenađenje, autonomija bez granica u poslovnom okruženju dovodi do toga da ti netko potroši mjesečni budget za cloud na generiranje 47.000 varijacija maila s ponudom. Kao da si tinejdžeru dao kreditnu karticu i rekao "kupi što misliš da trebamo", pa se čudiš što je stigla pošiljka od 200 pari patika. Ono što je posebno jebeno u cijeloj priči jest da Cortex AI Gateway ne pokriva samo Snowflakeove vlastite modele nego i one od konkurencije. To je potez koji miriše na onaj trenutak kad shvatiš da ti je bolje da kontroliraš i tuđe alate nego da ih ignoriraš, jer će ih tvoji developeri ionako koristiti. Sjeti se samo prvih dana kad su ljudi počeli copy-pasteati kod iz ChatGPT-a u produkciju bez da su ga pročitali — pa to je bilo kao da su primali recepte od kuhara koji nije probao jelo, a sad im treba netko tko će reći "ne, taj sastojak ti je otrovan". Gateway donosi i prvi val unaprijed izgrađenih agenata za stvari poput analize financijskih izvještaja, marketinške kampanje i podrške, što je u teoriji korisno, ali u praksi znači da ćeš dobiti još jedan sloj apstrakcije koji ćeš morati održavati, dokumentirati i objašnjavati novim kolegama. Enterprise softver nikad ne rješava problem, on ga samo premješta na višu razinu apstrakcije gdje ga je teže vidjeti ali ga zato više košta. A sad onaj ključni dio koji svi preskaču — cijene. Snowflake, kao i svaka druga cloud platforma koja drži do sebe, neće ovo dati besplatno. Cortex AI Gateway dolazi s premium cjenovnim modelom koji će se vjerojatno temeljiti na broju poziva, količini procesuiranih podataka i možda čak i na tome koliko agenata istovremeno vrtiš. Znači, rješenje za problem skupih AI agenata je još jedan skupi alat koji će ti pomoći da kontroliraš koliko trošiš na druge skupe alate. Pas mater, pa to je kao da platiš terapeuta da ti objasni zašto previše trošiš na terapeute. Tržište je, naravno, oduševljeno. Analitičari su već počeli pisati izvještaje o tome kako je ovo "game changer" i "nužan korak za enterprise AI", što je točno ono što bi rekli ljudi koji nisu morali implementirati, održavati i debugirati takav sustav u stvarnom svijetu. Enterprise AI nije problem tehnologije, on je problem organizacije, procesa i ljudske prirode koja preferira instant zadovoljstvo nad održivim rješenjem. Isto kao što ljudi preferiraju pizzu u 2 ujutro umjesto da skuhaju porciju tjestenine koju imaju doma. Ono što me najviše zabavlja u cijeloj priči jest naivnost s kojom smo pristupili agentima. Zamisli da si 2023. godine pustio agenta u divljinu bez ikakvih ograničenja, pa se sad čudiš što ti je generirao 5000 varijacija istog maila dok je pokušavao "optimizirati" kampanju. Agent nije lijen, agent je marljiv do apsurda — on će raditi ono što mu kažeš, samo što mu nisi rekao da prestane. To je isto kao da si frendu rekao "baci smeće" pa se vratio doma i našao ga kako baca i kauč jer nisi specificirao "samo kuhinjsko smeće, ne i namještaj". Cortex AI Gateway je, , priznanje poraza. To je način da Snowflake kaže "znali smo da će vam trebati kontrola, ali smo čekali da sami skužiš da ne možeš pustiti AI da radi što hoće". I to je u redu — većina ljudi uči na svojim greškama. Problem je što su te greške skupe, a rješenje je još skuplje. I tako se vrti enterprise kolo sreće u kojem jedini koji zarađuju su oni koji prodaju i problem i rješenje. Jedino što me tješi u cijeloj priči jest činjenica da će za koju godinu netko izbaciti "Cortex AI Gateway Gateway" — alat koji kontrolira koliko trošiš na alate koji kontroliraju koliko trošiš na AI agente. I tako do besvijesti, dok netko ne skuži da je problem u ljudima koji puštaju stvari u produkciju bez razmišljanja, a ne u alatima koji im to omogućuju. Alati su neutralni. Ljudi su ti koji su jebeno glupi.

Izvor: venturebeat.com