Event-sourced agents: zašto logiramo u Postgres prije LLM-a

U svijetu modernih AI agenata, svaka akcija koju agent poduzme – od poziva alatu do generiranja odgovora – predstavlja kritičan dio poslovnog procesa. Kada se oslanjamo na LLM-ove (Large Language Models), suočavamo se s inherentnom nepredvidivošću i potencijalnim greškama. Zato smo u RiNET-u usvojili princip event sourcinga: svaku akciju agenta logiramo u Postgres prije nego što LLM uopće započne s radom. Ovaj pristup, iako na prvu kontraintuitivan, donosi niz ključnih prednosti koje transformiraju način na koji gradimo pouzdane AI sustave.

Trajnost: temelj povjerenja

Zamislite scenarij u kojem agent treba izvršiti financijsku transakciju. Ako se LLM pozove prije nego što zabilježimo namjeru, a zatim dođe do pada sustava ili greške u mreži, gubimo trag onoga što se trebalo dogoditi. Logiranjem akcije u Postgres prije izvršavanja, osiguravamo da je svaka namjera trajno zabilježena. Ovo nije samo pitanje sigurnosti, već i povjerenja – korisnici i dionici znaju da ništa nije izgubljeno, čak i ako LLM zakasni ili ne uspije.

Ponovljivost: učenje iz prošlosti

Event sourcing omogućuje nam da u svakom trenutku rekonstruiramo stanje sustava. Ako agent napravi pogrešku, možemo se vratiti na točan trenutak prije nego što je LLM generirao odgovor, analizirati ulazne podatke i kontekst, te ponoviti proces s drugačijim parametrima. Ova mogućnost je neprocjenjiva za debugging i kontinuirano poboljšanje modela. Umjesto nagađanja što je pošlo po zlu, imamo precizan zapis svakog koraka, što ubrzava razvoj i smanjuje frustracije.

Revizija: transparentnost i usklađenost

U industrijama s strogim regulatornim zahtjevima – poput financija, zdravstva ili telekomunikacija – mogućnost revizije je zakonska obveza. Logiranje prije LLM-a osigurava da svaka akcija ima vremenski žig, identitet agenta i puni kontekst. Ovo nije samo zaštita od vanjskih revizora, već i alat za internu kontrolu kvalitete. Kada znamo točno što je agent namjeravao učiniti, možemo lakše identificirati obrasce ponašanja, potencijalne pristranosti ili neučinkovitosti.

Tehnička implementacija: Postgres kao okosnica

Zašto baš Postgres? Ova baza podataka nudi izvanrednu kombinaciju pouzdanosti, performansi i fleksibilnosti. Koristimo je kao event store, gdje svaki događaj (event) predstavlja jednu akciju agenta. Struktura tablice je jednostavna: ID događaja, tip akcije, vremenska oznaka, korisnički kontekst i puni payload. Ova shema omogućuje brze upite, lako skaliranje i integraciju s postojećim alatima za analitiku. Dodatno, Postgres podržava transakcije, što znači da možemo atomično upisati događaj i pokrenuti LLM poziv, osiguravajući konzistentnost čak i u distribuiranim sustavima.

Praktični primjer: agent za rezervacije

Uzmimo primjer agenta koji rezervira sastanke. Prije nego što LLM generira prijedlog termina, naš sustav zapisuje događaj booking_requested s podacima o korisniku i preferencijama. Tek tada LLM obrađuje zahtjev i vraća odgovor. Ako korisnik odustane ili dođe do sukoba termina, možemo lako pratiti slijed događaja i razumjeti zašto je došlo do problema. Ova transparentnost gradi povjerenje korisnika i olakšava podršku.

Izazovi i rješenja

Naravno, ovaj pristup nije bez izazova. Dodatno opterećenje baze podataka i latencija pri upisu mogu biti zabrinjavajući. No, uz pravilno indeksiranje i korištenje asinkronih upisa, ovi problemi su minimalni. Također, moramo paziti na veličinu podataka – svaki događaj može biti velik, posebno ako uključuje cijele LLM odgovore. Rješenje je pohranjivati samo ključne metapodatke i referencu na puni sadržaj, koji se može čuvati u objektnom spremištu.

Zaključak

Logiranje akcija agenta u Postgres prije pokretanja LLM-a nije samo tehnička odluka, već strateška prednost. Ono nam daje trajnost, ponovljivost i reviziju – tri stupa na kojima gradimo pouzdane i transparentne AI sustave. U svijetu gdje se sve više oslanjamo na autonomne agente, ovakva praksa postaje neophodna.

U RiNET-u vjerujemo da je svaki događaj vrijedan zapisa – jer samo ono što je zabilježeno može biti analizirano, poboljšano i ponovljeno.