Lokalni NVMe audit zapisi: Preživljavanje gubitka napajanja za inferenciju prema EU AI Act

U kontekstu EU AI Act-a, obveza vođenja audit zapisa za inferenciju velikih jezičnih modela (LLM) postaje ključna. No, kako osigurati da ti zapisi prežive iznenadni gubitak napajanja, posebno u samostalnim (self-hosted) okruženjima bez cloud infrastrukture? Odgovor leži u kombinaciji NVMe diskova i PostgreSQL WAL (Write-Ahead Log) razine trajnosti.

Zašto su NVMe diskovi ključni?

NVMe (Non-Volatile Memory Express) diskovi nude izuzetno nisku latenciju i visoku propusnost, što je idealno za upisivanje audit zapisa u stvarnom vremenu. Za razliku od SATA SSD-ova, NVMe podržava veći broj I/O operacija u sekundi (IOPS), što je presudno kada svaki LLM zahtjev mora biti zabilježen bez kašnjenja. Osim toga, NVMe diskovi imaju ugrađene mehanizme za zaštitu od gubitka podataka prilikom iznenadnog prekida napajanja, poput Power Loss Protection (PLP) kondenzatora koji omogućuju završetak upisa u tijeku.

PostgreSQL WAL kao temelj trajnosti

PostgreSQL-ov Write-Ahead Log (WAL) osigurava da se svaka promjena podataka prvo upiše u log prije nego što se primijeni na glavnu bazu. U kontekstu audit zapisa, to znači da čak i ako dođe do gubitka napajanja, WAL će sadržavati sve nepotvrđene transakcije. Konfiguriranjem PostgreSQL-a s synchronous_commit = on i wal_sync_method = open_datasync (ili fdatasync za dodatnu sigurnost), postižemo razinu trajnosti koja zadovoljava zahtjeve EU AI Act-a za nepovratno bilježenje.

Implementacija korak po korak

• Odaberite NVMe disk s PLP podrškom: Provjerite specifikacije diska (npr. Samsung PM9A3, WD SN850X) koje uključuju zaštitu od gubitka napajanja.
• Postavite PostgreSQL s WAL-om na zasebnu particiju: Preporučuje se izdvojena NVMe particija za WAL kako bi se izbjeglo natjecanje za resurse s ostalim podacima.
• Konfigurirajte audit logiranje: Koristite PostgreSQL ekstenziju pgaudit za detaljno bilježenje svih upita, uključujući LLM inferenciju. Primjer konfiguracije: pgaudit.log = 'write, ddl' i pgaudit.log_level = 'notice'.
• Testirajte oporavak: Simulirajte gubitak napajanja (npr. hard reset) i provjerite da li su svi audit zapisi netaknuti nakon ponovnog pokretanja PostgreSQL-a.

Zašto izbjegavati cloud rješenja?

EU AI Act zahtijeva da audit zapisi budu pod kontrolom subjekta koji provodi inferenciju, a ne treće strane. Korištenje cloud servisa (AWS, Azure) može dovesti do pitanja suvereniteta podataka i dodatnih troškova. Lokalno rješenje s NVMe diskovima i PostgreSQL-om pruža potpunu kontrolu, niže latencije i usklađenost s regulativom bez 'fluffa'.

Zaključak

Kombinacija NVMe diskova s Power Loss Protection i PostgreSQL WAL razine trajnosti omogućuje pouzdano bilježenje audit zapisa za LLM inferenciju, čak i u uvjetima iznenadnog gubitka napajanja. Ovo rješenje je u potpunosti u skladu s EU AI Act-om, a istovremeno ostaje jednostavno, lokalno i bez nepotrebnih slojeva složenosti.