Tri servera, tri uloge: zašto AI cognition mora biti odvojena od podatkovnog jezgra

Zamislimo da gradite kuću od nule i odlučite instalirati centralu za grijanje u dnevni boravak, bojler u spavaću sobu, a osigurače postaviti ispod kuhinjskog sudopera. Zvuči suludo, zar ne? Pa ipak, u svijetu AI infrastrukture isto se događa svakodnevno. Ljudi guraju GPU server koji vrti inferenciju i generira embeddinge, PostgreSQL bazu s osjetljivim podacima, Qdrant vektor store, Neo4j graf bazu, MinIO object storage i frontend na taj hrpa hardvera. I onda se čude kad im sustav pukne, podaci procure ili im treba sedam dana da vrate backup. Ovdje nije riječ o luksuzu ili paranoji. Riječ je o arhitekturi koja razlikuje kućicu od karata od sustava koji može nositi sovereign AI.

Počnimo od najskuplje komponente. GPU server nije samo skup. On je bučan, vruć i gladan struje kao heavy metal koncert u zatvorenom. Kad na taj server postavite PostgreSQL bazu koja drži korporativne dokumente ili Neo4j koji mapira relacije između klijenata, vi stvarate problem koji nema lijepo rješenje. GPU radno opterećenje je bursty. Kad model radi inferenciju, GPU skače na 100% iskorištenosti, ventilator se ubrzava, temperatura raste. U tom trenutku, vaša baza koja dijeli taj CPU, memoriju i I/O kanal dobiva manjak resursa. Upiti kasne. Indeksi se sporo grade. A ako GPU potegne power spike i izbaci osigurač, vaši podaci su u najboljem slučaju u nesigurnom stanju. U najgorem slučaju, korumpirani. Nisam vidio niti jednu organizaciju koja je miksala GPU s bazom i nakon šest mjeseci rekla: "Da, ovo je bila pametna odluka."

Sada dolazimo do memory corea. To je onaj server koji drži sve što vašem AI sustavu daje pamćenje. PostgreSQL za strukturirane podatke. Qdrant za vektorske embeddinge koje generira LLM. Neo4j za grafove odnosa među entitetima. MinIO za objekte i arhiv od 20TB. Ovaj server ne smije biti u istom fizičkom ili virtualnom okruženju s GPU serverom iz jednog ključnog razloga: sigurnosna izolacija. Kada GPU server obrađuje upit, on generira embeddinge koji su sami po sebi relativno bezopasni. Ali proces koji to radi mora imati pristup modelu, tokenizeru i možda cacheu. Ako je taj server domaćin bazi, potencijalni napadač koji probije inferencijski endpoint dobiva direktan put do vašeg cijelog podatkovnog skladišta. To je kao da ulazna vrata vode direktno u trezor.

Backup separation je treći razlog zašto ova podjela nije izbor nego nužnost. Zamislite da imate jedan server koji radi sve. Kad krene backup baze od 20TB, on troši I/O bandwidth, CPU i mrežu. U tom trenutku GPU inferencija usporava jer nema dovoljno resursa. Korisnici osjete latency od 3 sekunde umjesto 200ms. Ako backup padne usred procesa, a vi trebate restore, morate zaustaviti sve servise. Cijeli AI sustav je mrtav dok se podaci ne vrate. Ako su backupi razdvojeni po serverima, možete raditi incrementalne backup baze dok GPU server i dalje vrti inferenciju bez ikakvog utjecaja. Interface server s nginxom i frontendovima je najlakši za backupirati, ali ga i dalje treba izolirati da prometni spike ne ugrozi kritične podatke.

Što konkretno gubite ako miješate? Prvo, performance. GPU server koji dijeli PCIe laneove s disk kontrolerom baze gubi na propusnosti. Kad vektorski embedding generiranje treba pisati u Qdrant, a baza istovremeno radi vacuum, to je kolizija koja se rješava samo čekanjem. U sovereign AI arhitekturi, gdje se očekuje da sustav radi 24/7 i odgovara u realnom vremenu, svaka milisekunda kašnjenja je gubitak povjerenja. Drugo, security. Ako je inferencijski endpoint kompromitiran, napadač ne smije imati pristup bazi. Treće, operativna složenost. Miješani server je noćna mora za debugging. Je li problem u GPU driveru, bazi, disku ili mreži? Ne znaš dok ne isključiš sve i testiraš jedno po jedno. Četvrto, skaliranje. Kad trebate dodati još jedan GPU za veći model, morate dići cijeli server. Ako je odvojen, samo dodate novi GPU node u klaster.

Pogledajmo konkretan primjer iz prakse. U sovereign AI operativnom sustavu kojeg gradimo, svaki od tri servera ima strogo definiranu ulogu. Cognition layer je isključivo GPU server koji vrti LLM inferenciju, generira embeddinge i obrađuje upite. Nema na njemu ni jedan podatak koji nije privremen. Memory core server drži PostgreSQL sa strukturama, Qdrant s vektorskim indeksima, Neo4j s grafovima i MinIO s dokumentima. Interface server služi nginx, frontend aplikacije i load balancer. Backup strategija je simetrična: svaki server ima vlastiti backup plan, vlastiti retention policy i vlastite restore procedure. Ako GPU server crkne, podaci su netaknuti. Ako baza padne, GPU nastavlja raditi, samo bez pamćenja. Ako frontend ode, backend i dalje procesira podatke.

Ovaj pristup razvijamo na rinet.one — za detalje slobodno se javi.

Arhitektonska disciplina ovdje nije tehnički hir. To je odgovor na pitanje što se događa kad AI sustav postane kritična infrastruktura. Zamislite da je vaš sovereign AI deployment u reguliranoj industriji. Revizija dolazi i traži dokaz da podaci nisu kompromitirani. Ako su svi serveri miksani, revizor će tražiti logove sa svakog servera, forenzičke kopije, dokaze da GPU procesi nisu mogli čitati bazu. Ako su serveri odvojeni, pokažete network policy koji fizički brani GPU serveru da inicira konekciju prema bazi. To je dokaz koji se ne može osporiti. U sovereign AI svijetu, gdje vi kontrolirate sve od hardvera do modela, ovakva izolacija nije trošak. To je temelj povjerenja.

Neo4j i Qdrant su posebno osjetljivi na miješanje. Graf baza radi s kompleksnim upitima koji traže niz hopova kroz čvorove. Ako GPU istovremeno crpi CPU cikluse za batch embedding generiranje, Neo4j upit koji bi inače trajao 50ms raste na 500ms. Qdrant s druge strane koristi HNSW indekse koji su memorijski intenzivni. Ako GPU zauzme RAM za model, Qdrant mora swapirati na disk. To ubija performanse vektorske pretrage. Vidio sam implementacije gdje je vektorsko pretraživanje s 10ms latencyja palo na 2 sekunde samo zato što je GPU dijelio RAM. To nije problem koji se rješava optimizacijom koda. To je fizičko ograničenje hardverskog dijeljenja.

MinIO s 20TB arhivom donosi treću dimenziju problema. Object storage zahtijeva stabilan I/O i mrežni bandwidth. GPU server generira velike količine podataka kad obrađuje dokumente ili slike. Ako oboje dijele taj mrežni interface, dolazi do kolizije. Backup MinIO arhiva je spor i glomazan, ali ako je odvojen, možete ga raditi u pozadini bez utjecaja na inferenciju. U miješanoj arhitekturi, backup MinIO znači zaustaviti sve ostalo. Ako vam treba restore iz arhiva, to je operacija koja može trajati satima, a za to vrijeme cijeli sustav stoji. U sovereign AI svijetu, gdje se očekuje da sustav radi neprekidno, ovakvi downtimeovi su neprihvatljivi.

Interface server s nginxom i frontendovima je najlakša komponenta, ali i najizloženija. On je lice sustava prema korisnicima i napadačima. DDoS napad, brute force na login endpoint, injection pokušaji. Ako je interface server odvojen, možete ga gasiti, restartati ili skalirati bez utjecaja na backend. Ako je miksan s bazom, jedan napad može srušiti cijeli sustav. Nginx je robustan, ali nije imun na memory leakove ili config greške. U sovereign AI arhitekturi, interface server je prva linija obrane. On ne smije imati pristup bazi. Samo proxira zahtjeve prema cognition layeru koji zatim komunicira s memory coreom. Troslojna arhitektura nije dogma. To je provjerena metoda koja štiti podatke i omogućuje skaliranje.

Ljudi često pitaju: "A što ako koristimo Kubernetes i sve je u kontejnerima?" Kontejneri ne rješavaju problem dijeljenja resursa. Oni ga samo maskiraju. GPU i dalje dijeli taj NUMA node s bazom. I/O i dalje prolazi kroz taj kernel. Ako jedan kontejner pojede sav RAM, drugi crkne. Kubernetes može restartati pod, ali podaci u bazi ne vole iznenadne prekide. Sovereign AI zahtijeva predvidljivost. Kontejneri su odlični za orkestraciju, ali ne mijenjaju fiziku hardvera. Tri fizička ili barem dobro izolirana virtualna servera su minimum. Svaki s vlastitim CPU, RAM, disk i mrežnim resursima. To je jedini način da garantirate da GPU burst ne ubije bazu, da backup ne uspori inferenciju i da napad na frontend ne otvori vrata u memory core.

Na kraju, sve se svodi na jedno pitanje: vjerujete li da će vaš AI sustav jednog dana nositi kritične odluke? Ako je odgovor da, onda arhitektura mora odražavati tu odgovornost. Miješanje servera je kratkoročna ušteda koja se dugoročno plaća u performance securityju i operativnim glavoboljama. Tri servera, tri uloge, jedna jasna granica. To je jedini način da sovereign AI ostane suveren nad vlastitim podacima i vlastitim performansama. Sve ostalo je kockanje s tuđim povjerenjem.

Ako te zanima ovakva arhitektura ili gradiš nešto slično za svoju instituciju — javi se preko rinet.one.