Zašto bilježimo hash upita i izlaza, ne sirovi tekst

U svijetu umjetne inteligencije, transparentnost i odgovornost postali su ključni, posebno s novim propisima poput EU AI Act-a. Ovaj zakon zahtijeva da visokorizični AI sustavi bilježe svoje aktivnosti kako bi se osigurala sljedivost i mogućnost revizije. No, postavlja se pitanje: kako to učiniti bez ugrožavanja privatnosti korisnika i sigurnosti sustava?

Problem s bilježenjem sirovog teksta

Bilježenje sirovih upita i izlaza može izgledati kao jednostavno rješenje, ali ono nosi ozbiljne rizike. Prvo, upiti često sadrže osjetljive informacije poput osobnih podataka, poslovnih tajni ili zdravstvenih podataka. Čuvanje takvih podataka u logovima stvara ogromnu površinu za napade i povećava rizik od curenja podataka. Drugo, sirovi tekst može biti zloupotrijebljen za identifikaciju korisnika ili za stvaranje profila, što je u suprotnosti s načelima zaštite podataka.

Rješenje: hash vrijednosti

Umjesto bilježenja sirovog teksta, RiNET koristi kriptografske hash funkcije. Hash je jednosmjerna funkcija koja pretvara bilo koji tekst u fiksni niz znakova. To znači da možemo zabilježiti da je upit postojao, ali ne i njegov sadržaj. Na taj način zadržavamo sljedivost i mogućnost provjere, ali bez izlaganja osjetljivih informacija.

Prednosti hash bilježenja

• Privatnost: Hash vrijednosti ne otkrivaju sadržaj upita, čime se štiti privatnost korisnika.
• Sigurnost: Čak i ako logovi dospiju u pogrešne ruke, podaci su neupotrebljivi bez originalnog teksta.
• Usklađenost: Zadovoljavamo zahtjeve EU AI Act-a za bilježenjem, ali bez kompromisa oko zaštite podataka.
• Učinkovitost: Hash vrijednosti su fiksne duljine, što olakšava pohranu i pretraživanje.

Kako to funkcionira u praksi?

Kada korisnik pošalje upit našem AI sustavu, mi generiramo hash vrijednost tog upita i bilježimo je zajedno s vremenskom oznakom i identifikatorom sesije. Isto radimo i s izlazima. Ako je potrebna revizija, možemo provjeriti je li određeni upit postojao, ali ne možemo rekonstruirati njegov sadržaj. To je savršena ravnoteža između transparentnosti i privatnosti.

Zašto je ovo bolje?

Ova metoda ne samo da rješava probleme privatnosti i sigurnosti, već i smanjuje rizik od zlouporabe podataka od strane internih djelatnika. Također, olakšava usklađivanje s GDPR-om, jer ne pohranjujemo osobne podatke u logove. , hash bilježenje omogućuje nam da budemo odgovorni prema zakonu i korisnicima, bez žrtvovanja njihove privatnosti.

U RiNET-u vjerujemo da tehnologija treba služiti ljudima, a ne obrnuto. Zato smo usvojili ovaj pristup i preporučujemo ga svima koji razvijaju AI sustave. To je korak prema odgovornijoj i sigurnijoj umjetnoj inteligenciji.