Osamdeset posto američkih državnih agencija već koristi AI agente, a većina dužnosnika vjeruje da će do 2030

Prije nego što krenemo slaviti pobjedu tehnologije nad birokracijom, vrijedi zastati na trenutak i postaviti pitanje koje nitko u tim anketama nije postavio: tko je pitao građane? Jer u cijeloj priči o AI agentima u javnom sektoru postoji jedna konstanta koja miriše na stari, dobro poznati problem — netko odlučuje u ime svih ostalih, a da pritom nije tražio dopuštenje.

Nije da su državne službe ikad slovile kao uzori efikasnosti. Svatko tko je ikad pokušao riješiti papire u Hrvatskoj zna da birokracija ima svoj vlastiti tempo, a taj tempo je negdje između sporog valcera i potpune katatonije. Ali rješenje nije u tome da se čovjeka zamijeni strojem bez da se prethodno shvati što stroj zapravo radi i kako to utječe na one koji su na drugoj strani pulta.

AI agenti su, u svojoj srži, alati za optimizaciju. Uče obrasce, predviđaju ishode, automatiziraju ponavljajuće zadatke. Zvuči korisno dok ne shvatiš da taj ti agenti mogu odlučivati o tvojoj poreznoj prijavi, zdravstvenoj skrbi ili čak sudbini tvoje prijave za socijalnu pomoć. A kad agent pogriješi — a griješit će, jer to rade svi modeli — tko je kriv? Algoritam? Programer? Ministar koji je potpisao ugovor s vendorom koji je prodao maglu umjesto rješenja?

Američke agencije su, prema istraživanju, već ušle u taj svijet s obje noge. Osamdeset posto njih koristi neki oblik AI asistenata, od chatbota koji odgovaraju na upite do složenijih sustava koji analiziraju podatke i donose preporuke. Ako trend potraje, za pet godina će većina interakcije s državom biti posredovana strojem. I to nije nužno loše — dok god je stroj transparentan, revidibilan i podložan žalbi.

Problem je što transparentnost nije baš jača strana industrije koja proizvodi te alate. Većina AI modela radi kao crna kutija: unutra ide podatak, van izlazi odluka, a što se događa između — to zna samo programer koji je napisao kod, i to pod uvjetom da se sjeća što je radio prije tri iteracije. Ako dodamo da ti modeli često uče na povijesnim podacima koji sadrže inherentne pristranosti — rasne, rodne, ekonomske — dobiješ recept za katastrofu koja se prodaje kao inovacija.

I tu dolazimo do ključne točke koju zagovornici AI transformacije javnog sektora rado preskaču: automatizacija ne rješava sistemske probleme, ona ih samo ubrzava. Ako je birokracija spora jer je loše organizirana, AI agent će tu lošu organizaciju reproducirati brzinom svjetlosti. Ako su procedure nepravedne, algoritam će tu nepravdu učiniti sistematičnom i neupitnom.

Pogledajmo primjer iz stvarnog svijeta koji nema veze s Amerikom, ali je savršeno jasan. Nizozemska je prije nekoliko godina uvela algoritam za otkrivanje prijevara u socijalnim naknadama. Rezultat? Tisuće obitelji su nepravedno optužene, mnoge su izgubile domove, a država je na kraju morala isplatiti milijarde eura odštete. Algoritam nije bio zlonamjeran — bio je samo loše napisan, obučen na pristranim podacima i korišten bez ljudskog nadzora. Ista priča, drugo mjesto, ista pouka: tehnologija ne oprašta glupost, ona je pojačava.

Zato kad čujem da će do 2030. javni sektor biti mješavina ljudi i AI agenata, pomislim na sve one projekte digitalizacije koje smo vidjeli u Hrvatskoj. Sjećam se e-Građana, koji je zapravo dobra priča, ali i svih onih polovičnih rješenja koja su prodana kao revolucija, a ispala su još jedna iteracija starog problema s novim sučeljem. Digitalizacija bez promišljanja nije rješenje — ona je kozmetički zahvat na pacijentu koji treba transplantaciju organa.

I tu dolazimo do srži problema koju nitko od onih koji prodaju AI rješenja ne želi priznati: agenti su dobri onoliko koliko su dobri podaci kojima se hrane, a podaci javnog sektora su u pravilu — kako bi to rekao netko tko je proveo godine u IT industriji — u kurcu. Ne zato što su loši ljudi radili na njima, nego zato što su godine štednje, lošeg planiranja i političkih interesa ostavile trag. Ako na te podatke staviš AI agenta, dobit ćeš brže i efikasnije sranje, ali i dalje sranje.

Zato je pitanje koje si nitko ne postavlja u ovim anketama zapravo najvažnije: tko će nadzirati agente? Tko će imati pravo reći "stani, ovo nema smisla"? U svijetu u kojem države sve više liče na korporacije, a korporacije na države, odgovor je često — nitko. Jer agenti dolaze s certifikatima, benchmarkovima i obećanjima, a ljudski nadzor košta, spor je i neefikasan. U startu je izgubljena bitka.

I tu se vraćamo na početak. Osamdeset posto agencija već koristi AI. Do 2030. bit će ih još više. A pitanje koje će netko postaviti tek kad stvari krenu u krivom smjeru jest: jesmo li ikad pitali građane žele li da ih vodi algoritam? Ili smo samo pretpostavili da će, ako je brže i jeftinije, automatski biti i bolje?

Jer brže i jeftinije nije uvijek bolje. Ponekad je brže i jeftinije samo način da skuplje platiš kasnije, kad agent pogriješi i kad se ispostavi da nitko nije odgovoran jer je odluku donijela crna kutija koju nitko ne razumije.

Izvor: zdnet.com