PCIe Lane Starvation s 4 GPU na potrošačkoj ploči: Stvarna rješenja
Pokretanje četiri GPU na potrošačkoj matičnoj ploči često uzrokuje PCIe Lane Starvation. Saznajte kako ga otkriti i ublažiti stvarnim alatima i konfiguracijama.
Rješavanje sukoba između vektorskih, grafičkih i relacijskih baza za pamćenje agenata
Autonomni agenti često koriste više pozadinskih pohrana za pamćenje. Evo kako riješiti sukobe podataka između vektorskih, grafičkih i relacijskih baza u produkciji.
Jurisdikcijsko usmjeravanje inferencija: Usklađenost s EU AI Actom
Saznajte kako usmjeravati zahtjeve za inferencijom na temelju geolokacije korisnika i klasifikacije podataka radi usklađenosti s EU AI Actom, koristeći proxy sloj odlučivanja.
DAG stroj stanja: Zašto smo napustili generičke agentske petlje
U svijetu autonomnih agenata, generičke while-true petlje dugo su bile standardni obrazac za kontinuirano izvršavanje zadataka. Međutim, kako sustavi rastu u složenosti i broju agenata, ove petlje počinju pokazivati ozbiljne nedos...
Otrovani agent: djelomični rollback ili potpuni replay nakon korupcije
Kada se stanje autonomnog agenta korumpira, operateri biraju između djelomičnog rollbacka i potpunog replaya. Analiziramo prednosti i mane obje strategije.
METR-ov expenditure horizon: kad AI postane skuplji od čovjeka
Četrdeset tisuća dolara po zadatku je brojka koja bi u normalnom svijetu značila da si zaposlio lošeg konzultanta, ali u svijetu AI agenata to je cijena koju si spreman platiti za iluziju uštede. METR je izbacio metriku koju su nazvali "expenditure h...
Raft konsenzus za koordinaciju agenata bez središnjeg orkestratora
U svijetu distribuiranih sustava, koordinacija agenata često se oslanja na središnji orkestrator – jednu točku koja upravlja svim akcijama. No, takav pristup donosi ozbiljne rizike: ako orkestrator zakaže, cijeli sustav pada. Rješenje dolazi iz sv...
Checkpointing agent razgovora u Postgres: binarni format koji je preživio GPU pad
Zamijenili smo JSON s MessagePack za checkpointing dugotrajnih agent razgovora u Postgres. GPU pad je obrisao memoriju, ali binarni format omogućio je obnovu stanja u sekundama bez gubitka podataka.
Hlađenje 4-GPU swarm bez klime: ventilator, skripta i pad od 30°C
Kad ambijentalno hlađenje ne uspije za gustu GPU konfiguraciju, jednostavna kombinacija ventilatora i skripte može dramatično sniziti temperature. Ovaj članak vodi kroz inženjerske odluke.
Samsungovih petnaest minuta slave
Dvije nove varijante istog eksperimenta, samo što jedna košta kao rabljeni automobil, a druga kao dobar bicikl s greškom. I jedno i drugo se savija na mjestu gdje se prije lomilo. Samsung Galaxy Z Fold 8 i Z Flip 8 su stigli, i naravno da su impresi...
Četiri stotine ljudi pitalo je ChatGPT kako napraviti otrov i biološko oružje, a neki su dobili...
ChatGPT je dijelio upute za izradu otrova i biološkog oružja. OpenAI je znao, ali je ipak lansirao model. Tko odgovara?
Pravilo tri signala: zašto svaku radnju agenta bilježimo na tri načina
Kada autonomni agent pogriješi, jedan redak zapisa ne govori vam ništa. Pravilo tri signala zahtijeva tri neovisna dokazna puta prije nego što povjerujemo u izlaz agenta – evo kako ga provodimo.
Hlađenje GPU-a: 4-GPU swarm hladimo ventilatorom i skriptom
Hlađenje GPU-a bez klime: kutni ventilator i Python skripta održavaju četiri potrošačka GPU-a hladnima tijekom inferencije.
Autonomna institucija: memorija kao knjiga, ne predmemorija
Autonomne digitalne institucije zahtijevaju trajnu memoriju. Zašto knjiga nadmašuje predmemoriju?
Nvidia ulaže milijardu dolara u južnokorejsku AI infrastrukturu.
Nvidia ulaže milijardu dolara u južnokorejsku AI infrastrukturu kroz Naver.
Nova pravila kontekstualnog inženjeringa za modele generacije Claude 5
Promjena pravila kontekstualizacije u AI svijetu utječe na ljudsku kreativnost.
Kraj eksperimentiranja: AI ide u šoping.
Dok čekamo pravu revoluciju u virtualnom isprobavanju, potrošači se suočavaju s razočaranjem.
NASA i nebeski selfie: Zemlja i Mjesec uhvaćeni u jednom kadru
NASA snimila savršeni selfie Zemlje i Mjeseca, dok mi se bavimo ludilom.
Microsoftova otvorena AI strategija: bolna istina za konkurenciju
Microsoftova otvorena AI strategija postavlja pitanja o budućnosti tehnologije i konkurencije.
Hermes AI agent automatizirao je napad na tajlandsko Ministarstvo financija.
Kibernetički napadi koriste AI agente za automatizaciju napada na vlade, kao u slučaju Tajlanda.
Kako smo spasili 14-satni swarm nakon 13 minuta otrovanih podataka
Unos otrovanog vektora u 13. minuti zamalo je uništio 14-satni swarm. Evo kako smo kirurški uklonili korupciju i nastavili bez ponovnog pokretanja.
Lokalni NVMe audit zapisi: Preživljavanje gubitka napajanja za inferenciju prema EU AI Act
Kako pisati audit zapise za samostalnu LLM inferenciju koji prežive gubitak napajanja, koristeći NVMe diskove i PostgreSQL WAL razinu trajnosti — bez oblaka, bez suvišnog.
Idempotentna memorija agenata: ključevi temeljeni na sadržaju u Postgresu
U svijetu autonomnih agenata, memorija je temeljna komponenta koja omogućuje učenje i prilagodbu. No, često se susrećemo s problemom dupliciranja zapisa kada agent ponovno obrađuje taj događaj ili poruku. Tradicionalni pristup korištenja sekvencij...
Poluvodički kolaps: kad AI hoda na staklenim nogama
Pedeset i pet milijardi dolara kapitalizacije isparilo je s azijskih burzi u jednom danu jer su ulagači odjednom shvatili da čipovi možda ipak nisu besmrtni. I to je najbolja vijest koju ste čuli ove godine, jer znači da netko napokon postavlja prava...
Vodeni žigovi za medicinske tekstove
Eto, netko se napokon sjetio provjeriti radi li vodeni žig za LLM-ove u medicini, a ne na generičkim benchmarkovima gdje je jedina briga hoće li model napisati "the" umjesto "the". Studija koju netko upravo čita na arXivu otkriva ono što je svakom tk...
Milijarda eura kazne za Google, i Bruxelles je napokon pokazao zube — samo što su ti zubi mliječni...
Jer milijarda, za kompaniju koja u tri mjeseca zaradi osamdeset milijardi, nije kazna. To je parking karta u centru Manhattana za nekoga tko je zaboravio da mu je garaža na adresi. To je džeparac koji ispadne iz džepa dok izvlačiš ključeve od jahte. ...
Prekogranični inference logovi: shema za praćenje svakog zaključka bez curenja težina
Minimalna shema za bilježenje svakog model inferencea preko granica – dokazivanje usklađenosti bez otkrivanja težina ili podataka za treniranje.
Tihi backpressure: Kako jedan zaglavljeni inference blokira swarm mrežu od 50 instanci
Problem: Tihi backpressure u swarm mrežiU distribuiranim sustavima, posebno onima koji koriste LLM inference u swarm konfiguraciji, jedan zaglavljeni proces može izazvati lančanu reakciju koja paralizira cijelu mrežu. Zam...
Determinističko ponavljanje: Reproduciranje grešaka agenata unutar Postgres transakcija
Prestani nagađati zašto ti je roj agenata zakazao. Koristi Postgres transakcije za snimanje svakog koraka i identično ponavljanje.