Bez javnih endpointa: WireGuard mesh za suvereni AI stack

U današnjem svijetu AI infrastrukture, sigurnost je ključna. RiNET je razvio arhitekturu koja eliminira potrebu za javnim portovima, osim jednog jedinog WireGuard endpointa. Ovo omogućuje potpuno zatvorenu, ali fleksibilnu mrežu za sve servise u suverenom AI stacku.

Zašto WireGuard mesh?

Tradicionalne mreže zahtijevaju otvaranje više portova za svaki servis – Postgres, vLLM, Qdrant, agenti – što povećava napadnu površinu. WireGuard mesh rješenje stvara ravnu, šifriranu mrežu gdje svaki čvor komunicira izravno, bez centralnog posrednika. To smanjuje latenciju i povećava sigurnost.

Kako smo implementirali

• Jedan javni endpoint: Samo WireGuard server je izložen javnosti. Svi ostali servisi komuniciraju isključivo kroz šifrirane tunele.
• Ravna mreža: Svaki servis (Postgres, vLLM, Qdrant, agenti) ima svoju privatnu IP adresu unutar WireGuard mreže. Komunikacija je izravna, bez NAT ili proxyja.
• Automatsko meshiranje: Koristimo skripte za automatsko dodavanje novih čvorova u mesh, čime se eliminira ručna konfiguracija.

Primjena u praksi

Postgres baza podataka, vLLM za inferenciju, Qdrant za vektorsko pretraživanje i agent servisi – svi su povezani kroz WireGuard mesh. Na primjer, agent servis može direktno dohvatiti podatke iz Postgres-a ili poslati upit vLLM-u, bez izlaska na javnu mrežu. Ovo ne samo da povećava sigurnost, već i smanjuje kašnjenje.

Prednosti

• Sigurnost: Svi promet je šifriran, a napadna površina svedena na minimum.
• Jednostavnost: Jedan konfiguracijski fajl za sve čvorove.
• Skalabilnost: Dodavanje novih servisa je trivijalno – samo dodajte novi čvor u mesh.

Ova arhitektura je idealna za suverene AI stackove gdje je privatnost podataka prioritet. RiNET je dokazao da je moguće izgraditi robustan, siguran i efikasan sustav bez kompromisa.