Pravilo tri signala: zašto svaku radnju agenta bilježimo na tri načina

Kada autonomni agent pogriješi, jedan redak zapisa ne govori vam ništa. Pravilo tri signala zahtijeva tri neovisna dokazna puta prije nego što povjerujemo u izlaz agenta – evo kako ga provodimo u RiNET-u.

Zašto tri signala?

U modernim AI sustavima autonomni agenti donose odluke koje utječu na kritične radne tokove. Jedna pogreška može izazvati lančanu reakciju i cjelokupni pad sustava. Tradicionalno logiranje bilježi samo jednu perspektivu: agentovo vlastito izvješće. No što ako je to izvješće korumpirano, halucinirano ili manipulirano? Pravilo tri signala rješava taj problem zahtijevajući tri neovisna izvora dokaza:

• Interni log agenta – svaka radnja bilježi se u vlastiti dnevnik agenta.
• Vanjski promatrački proces – zaseban servis u stvarnom vremenu nadzire radnje i uspoređuje ih s tragovima sistemskih poziva.
• Kriptografski hash lanac – SHA-256 hash svakog događaja pohranjuje se u nepromjenjivu knjigu radi provjere integriteta.

Tek kada se sva tri signala podudaraju, radnju označavamo kao provjerenu.

Implementacija u RiNET-u

Implementacija počinje instrumentacijom na razini agenta, gdje svaka radnja emitira strukturirani događaj. Vanjski monitor pretplaćuje se na te događaje i unakrsno ih provjerava s tragovima sistemskih poziva. Zasebni revizijski sloj izračunava SHA-256 hash svakog događaja i pohranjuje ga u nepromjenjivu knjigu. Svako odstupanje pokreće upozorenje. Ovaj pristup s više signala smanjuje lažne pozitivne rezultate i otkriva suptilne anomalije koje sustavi s jednim logom propuštaju. Dodatno, sva tri izvora podataka su vremenski sinkronizirana, što omogućuje preciznu rekonstrukciju događaja.

Prednosti i rezultati

U RiNET-u primjenjujemo ovo pravilo na sve naše autonomne agente. Dodatno opterećenje je minimalno – otprilike 5% latencije po radnji – ali dobitak u povjerenju je ogroman. Inženjeri mogu otklanjati probleme koristeći tri neovisna prikaza, a sigurnosni timovi dobivaju dokazivu revizijsku stazu otpornu na manipulacije. Pravilo je već spriječilo nekoliko incidenata u produkciji gdje bi agenti djelovali na temelju haluciniranih podataka. Na primjer, nedavno je agent za obradu podataka pokušao izvršiti transakciju na temelju netočnih inputa, ali je vanjski monitor otkrio neslaganje s hash lancem i spriječio izvršenje. Osim toga, olakšava usklađivanje s regulatornim zahtjevima za transparentnost AI sustava.

Pravilo tri signala nije samo praksa logiranja – to je protokol povjerenja za doba autonomnih agenata.