SHA256 audit chain: kako dokazati što je AI rekao i kada

U svijetu u kojem veliki jezični modeli generiraju odgovore koji su po definiciji nestohastički i neponovljivi, pitanje dokazivanja što je točno rečeno i u kojem trenutku postaje egzistencijalno za svaku ozbiljnu implementaciju. Ne riječ je o akademskoj vježbi. Kada vaš LLM donese odluku koja utječe na pacijenta, ugovor ili regulatornu prijavu, vi morate moći predočiti neoboriv dokaz da je taj točan string teksta generiran u tom točnom trenutku, od strane tog točnog modela. Bez toga, vaša AI infrastruktura je predmet spora, a ne alat za donošenje odluka.

Klasični pristupi logiranju ovdje padaju na ispitu iz dva razloga. Prvi je inherentna nepredvidivost LLM outputa: taj input s istim parametrima može dati različite odgovore zbog temperature, seeda i hardverske floating-point aritmetike. Drugi je problem naknadne manipulacije: tko god ima pristup log datoteci može je urediti, obrisati ili zamijeniti. Zato nam treba kriptografski lanac koji svaki odgovor povezuje s prethodnim stanjem na način koji je matematički nemoguće falsificirati. Tu dolazi SHA256 audit chain kao jedino ozbiljno rješenje za AI Act compliance i GDPR accountability.

Arhitektura koju smo implementirali u RiNET Engineeringu počinje s definicijom audit entryja. Svaki odgovor LLM-a generira zapis koji sadrži točan input prompt, kompletan output teksta, UNIX timestamp s milisekundama, identifikator korištenog modela uključujući verziju i fine-tuning hash, te hash prethodnog zapisa u lancu. Taj se set podataka hashira pomoću SHA256, a dobiveni hash postaje referenca za sljedeći zapis. Rezultat je append-only struktura u kojoj je svaka izmjena bilo kojeg prethodnog zapisa automatski vidljiva jer bi promijenila sve sljedeće hashove.

Ono što ovu arhitekturu čini robustnom nije samo hashiranje, već način na koji se audit chain pohranjuje. Mi koristimo WORM bucket arhivu - Write Once, Read Many spremište koje fizički onemogućuje brisanje ili prepisivanje zapisa nakon što su potvrđeni. AWS S3 Object Lock, Azure Blob Storage immutability policy ili on-premise WORM NAS uredaji - sve su to validne implementacije. Ključ je da ni root administrator, ni cloud provider, ni vaš vlastiti DevOps tim ne mogu retroaktivno promijeniti audit trail. To je jedina razina sigurnosti koju regulatori prihvaćaju.

GDPR zahtijeva mogućnost dokazivanja da je automatizirana obrada podataka provedena u skladu s propisima, posebno kod članaka 22 i 35 koji se odnose na automatizirano donošenje odluka. Bez audit chaina, vi zapravo ne možete dokazati što je vaš AI sustav učinio s osobnim podacima građana. AI Act ide korak dalje: za visokorizične AI sustave, članak 12 zahtijeva automatsko bilježenje događaja tijekom cijelog životnog ciklusa sustava, uključujući inpute, outpute i kontekst donošenja odluka. SHA256 audit chain je jedini praktični način da se ovo zadovolji bez eksplozije troškova.

Većina kompanija koje danas implementiraju LLM rješenja nemaju pojma koliko su ranjive. One logiraju u bazu podataka s pravima brisanja, ili još gore, u stdout koji se gubi pri restartu containera. Kada regulator zatraži dokaz o tome što je AI rekao prije tri mjeseca u konkretnom slučaju, odgovor je najčešće "nemamo taj log" ili "log je overwritan". To nije compliance, to je kockanje s reputacijom i novčanim kaznama koje za kršenje AI Acta idu do 35 milijuna eura ili 7% globalnog prometa. Naš audit chain arhitektura eliminira tu neizvjesnost.

Implementacija nije trivijalna, ali je konceptualno jednostavna. Svaki API poziv prema LLM-u prolazi kroz middleware koji prije slanja zahtjeva izračunava hash prethodnog audit zapisa, dodaje ga u payload, a nakon primitka odgovora kompletira zapis i upisuje ga u WORM spremište. Važno je da se hash računa na strani koja je pod vašom kontrolom, a ne na LLM providerovoj strani, jer inače gubite dokazni lanac. Također, timestamp mora dolaziti iz NTP-sinkroniziranog izvora koji je nezavisan od servera koji pokreće LLM.

Data lineage ovdje nije samo tehnički detalj, već pravni dokaz. Kada u audit chainu imate zapis koji kaže: "dana 15.3.2025. u 14:32:17.894, model GPT-4-turbo-2025-03-01 s fine-tuning hashom a3f2b8 je na input 'koji su simptomi bolesti X' generirao output od 347 tokena koji počinje s...", i taj je zapis potvrđen hashom prethodnog zapisa i pohranjen u WORM bucket, vi imate neoboriv dokaz. Čak i ako netko hakira vašu bazu, audit chain je matematički verificiran. To je razlika između "vjerujte nam" i "provjerite sami".

Gradimo ovo svaki dan. Ako tvoja institucija troši mjesece na taj problem — razgovaraj s nama.

Praktični izazov koji smo riješili je skaliranje. Kada imate milijune LLM poziva dnevno, zapisivanje svakog pojedinačnog odgovora u WORM spremište postaje skupo. Naše rješenje koristi batch potvrđivanje: svakih N zapisa ili svakih T sekundi, kreira se Merkle tree nad batchom, a root hash se upisuje u WORM. Time se smanjuje broj WORM write operacija za faktor 100-1000, dok se dokazna snaga zadržava. Regulator može zatražiti bilo koji pojedinačni zapis, a mi mu pružimo Merkle proof koji ga povezuje s root hashom u WORM spremištu.

GDPR-ov zahtjev za "right to explanation" iz članka 22(3) postaje izvediv tek kada imate ovakav audit chain. Ne možete objasniti odluku ako ne možete rekonstruirati kontekst u kojem je donesena. LLM odgovori nisu samo outputi - oni su rezultat specifične kombinacije prompta, system messagea, temperature, top_p, presence_penalty, i još desetak parametara koje je netko postavio u tom trenutku. Audit chain mora sadržavati sve te parametre, inače je objašnjenje nepotpuno. Naša implementacija serializira cijeli inference configuration u svaki zapis.

AI Act posebno naglašava transparentnost i ljudski nadzor. Članak 14 zahtijeva da visokorizični AI sustavi budu dizajnirani tako da ih ljudi mogu nadzirati, uključujući mogućnost overrideanja odluka. Ali kako znati koju odluku overrideati ako nemate zapis što je odlučeno i zašto? Audit chain omogućuje da u stvarnom vremenu pratite svaki LLM odgovor, usporedite ga s očekivanim ishodom i intervenirate ako je potrebno. Bez toga, ljudski nadzor je fikcija.

Ono što nas je iznenadilo u praksi je koliko često klijenti dolaze s već implementiranim LLM rješenjima koja nemaju nikakav audit trail. Imali smo slučaj u kojem je jedna infrastrukturna firma koristila LLM za generiranje izvješća o sigurnosnim incidentima, a kada smo ih pitali gdje su logovi, pokazali su na Slack thread. To nije audit chain, to je chat history. Kada dođe do ozbiljnog incidenta, takvi dokazi nemaju nikakvu težinu pred regulatorom. Naš posao je često bio uvjeriti ih da je ovo pitanje vremena, a ne pitanje "hoće li" se dogoditi.

Trošak implementacije SHA256 audit chaina je zanemariv u usporedbi s potencijalnim kaznama. WORM storage za milijun zapisa mjesečno košta manje od 50 eura na bilo kojem cloud provideru. Hashiranje je CPU-intenzivno samo za velike texte, ali s modernim CPU-ima i hardverskim SHA256 akceleratorima, overhead je ispod 2 milisekunde po zapisu. Jedini stvarni trošak je redizajn API sloja da propušta sve potrebne podatke u audit middleware, ali to je jednokratni trošak koji se višestruko isplati.

Regulatorni pejzaž se brzo mijenja. Europska komisija već najavljuje strože zahtjeve za AI audit trailom, a GDPR sudska praksa sve više naginje prema striktnoj interpretaciji accountabilityja. Kompanije koje danas ne implementiraju SHA256 audit chain grade AI sustave na pijesku. Kada prvi put dođe do revizije ili tužbe, shvatit će da nemaju ništa čime bi dokazali svoju poziciju. A tada je već kasno.

Ovo nije prodajni pitch. Ovo je upozorenje iz inženjerske perspektive: ako vaš LLM ne bilježi svaki svoj odgovor u kriptografski verificirani append-only lanac pohranjen u WORM spremište, vi nemate AI sustav. Imate generator rizika koji samo čeka da eksplodira.

Ako te zanima ovakva arhitektura ili gradiš nešto slično za svoju instituciju — javi se preko rinet.one.