Porezna uprava koristi softver za špijuniranje vlastitih građana, a najzabrinjavajući dio vijesti...

Sedam godina. To je vremenski okvir u kojem je američka porezna uprava, institucija koju se plaća da bi ti uzela novac i eventualno ti vratila dio ako si dovoljno pametno ispunio trideset i sedam obrazaca, koristila softver kompanije koju su osnovali bivši obavještajci. I sad se svi prave iznenađeni. Koji kurac ste očekivali? Da će IRS koristiti open-source CRM napisan u PHP-u i hostan na shared hostingu iz 2003? Naravno da koriste Palantir. To je kao da se čudiš što policija koristi pištolje umjesto praćki. Softver je, prema dostupnim informacijama, dizajniran za analizu financijskih transakcija i otkrivanje obrazaca koji ukazuju na prijevaru, pranje novca ili utaju poreza. Zvuči korisno, zar ne? Zvuči kao da netko konačno uvodi red u kaos od sedam milijardi bankovnih transakcija dnevno, dok ti taj ljudi koji su izmislili porez na kruh i mlijeko sad imaju alat koji vidi svaki tvoj pokret. I to je super — ako si porezna uprava koja lovi milijardere koji skrivaju novac u Panami. Problem je što taj taj softver jednako dobro vidi i tebe kad platiš račun za struju s tri dana zakašnjenja. E sad, postavlja se pitanje koje nitko ne postavlja, a trebao bi: zašto je Palantir, kompanija koja je svoju reputaciju izgradila na radu s CIA-om, Pentagonom i svim agencijama koje imaju tri slova u imenu i jedan cilj — prikupljanje informacija bez pitanja — uopće uključena u porezne istrage? Nije li porezna uprava trebala imati vlastiti IT odjel koji piše softver za provjeru poreznih prijava? Ili im je trebalo sedam godina da shvate da je Excel premalo, a da je hiring programera preskupo pa su odlučili unajmiti bivše špijune? Odgovor je, naravno, banalan i depresivan. IRS nema dovoljno budžeta za vlastiti IT, ali ima dovoljno budžeta za Palantir. To je kao da nemaš novca za kruh, ali kupuješ kavijar jer je na akciji. Porezna uprava je godinama bila podfinancirana, razbijana od strane političara koji su se hvalili da smanjuju državu, a onda su shvatili da ne mogu smanjiti državu bez da istovremeno ne mogu naplatiti porez. I tako su došli do rješenja: umjesto da plate deset programera da napišu jednostavan SQL upit, platili su Palantiru milijune za softver koji može predvidjeti tvoje financijsko ponašanje prije nego što ga ti sam shvatiš. I tu dolazimo do najljepšeg dijela ove priče. Palantir ne prodaje samo softver. Palantir prodaje mir. Mir koji ti govori da netko gleda. Da netko zna. Da ako si napravio nešto čak i na granici legalnog, postoji šansa da će algoritam, treniran na milijardama podataka, prepoznati obrazac koji ljudski mozak ne bi primijetio ni u sto godina. A to je, priznajte, istovremeno fascinantno i zastrašujuće. Fascinantno jer tehnologija funkcionira. Zastrašujuće jer funkcionira bez ikakve stvarne kontrole, bez transparentnosti, bez mogućnosti da se žališ na odluku koju je donio softver koji ne razumiješ i koji ne mora objašnjavati svoje zaključke. Porezna uprava s Palantirom je kao da daš djetetu koje ne zna plivati raketni bacač da se brani od komaraca. Rješenje je, tehnički, efikasno. Ali posljedice su katastrofalne. Jer kad jednom normaliziraš ideju da državna institucija koristi softver za masovni nadzor financijskih transakcija bez sudskog naloga, bez vjerojatnog razloga, bez ikakve sumnje — ti si zapravo rekao da je svaki građanin potencijalni kriminalac dok se ne dokaže suprotno. A dokazivanje suprotnog, u svijetu gdje algoritam odlučuje tko je sumnjiv, postaje nemoguća misija. Najgore od svega je što ovo nije izoliran slučaj. Ovo je obrazac. Svaka država, od one najmanje općine u Lici do najveće svjetske ekonomije, traži način da digitalizira nadzor. I svi dolaze do istog zaključka: lakše je kupiti gotov proizvod od kompanije koja već ima iskustva s nadzorom nego izgraditi vlastiti sustav od nule. Jeftinije je, brže je, i — što je najvažnije — ne moraš objašnjavati poreznim obveznicima zašto si potrošio milijun eura na softver koji ih špijunira. Samo kažeš da je za borbu protiv financijskog kriminala. I tko će reći ne borbi protiv financijskog kriminala? Pa nitko, osim možda netko tko ima nešto za skrivati. A to je upravo poanta. Retorika sigurnosti uvijek pobjeđuje. "Ako nemaš ništa za skrivati, nemaš se čega bojati" — jedna od najopasnijih rečenica ikad izgovorenih, koja se ponavlja kao mantra od strane ljudi koji bi prvi digli galamu da im netko čita poštu. Ali financijske transakcije su, eto, nešto drugo. One su javne, one su transparentne, one su — čekaj malo — ništa od toga. Tvoje bankovne transakcije su tvoja privatna stvar dok ne postaneš predmet istrage. A sad, uz Palantir, postaješ predmet istrage čim algoritam odluči da tvoj obrazac potrošnje izgleda sumnjivo. I tako smo došli do točke u kojoj porezna uprava, institucija koja bi trebala biti birokratski dosadna i predvidljiva, postaje produžena ruka obavještajne zajednice. Ne zato što je netko to planirao, nego zato što je to bio najlakši put. Najjeftiniji put. Put koji ne zahtijeva da itko preispita etičke implikacije, pravne granice ili društvene posljedice. Samo kupi softver, instaliraj ga, i pusti da algoritam radi svoje. Ako misliš da je ovo samo američki problem, varate se. Ista dinamika, taj dobavljači, ista retorika, dolaze i u Europu. Dolaze i u Hrvatsku. Samo je pitanje vremena kad će neka naša institucija, pod izlikom transparentnosti ili borbe protiv korupcije, potpisati ugovor s nekom varijantom Palantira. I nitko neće pitati. Nitko neće reći: "Čekajte malo, jeste li sigurni da želimo dati ove podatke privatnoj kompaniji koja radi za obavještajne agencije?" Jer lakše je kupiti gotovo rješenje. Lakše je reći da smo moderni. Lakše je šutjeti. Porezna uprava je, , samo ogledalo društva. Ako društvo prihvaća da ga se nadzire u ime sigurnosti, onda će i porezna uprava to raditi. I neće stati dok ne dobije pristup svakoj transakciji, svakom računu, svakom kretanju novca. A onda, kad bude imala sve podatke, postavit će pitanje: što sad? I odgovor će biti: još više podataka. Još više algoritama. Još manje privatnosti. Najtužniji dio cijele priče je što Palantir zapravo radi posao. Softver je, tehnički, izvrstan. Pronalazi obrasce koje ljudi ne vide. Povezuje točke koje su naizgled nepovezane. A to je upravo problem. Jer kad alat funkcionira, kad daje rezultate, kad hvata kriminalce — tko će onda reći da ga treba ugasiti? Tko će reći da je cijena koju plaćamo u privatnosti previsoka, kad s druge strane imamo ulovljene porezne prevarante? I zato će se ovaj softver širiti. Iz porezne u policiju. Iz policije u socijalnu službu. Iz socijalne službe u zdravstvo. Dok ne dođeš do točke u kojoj svaka tvoja interakcija s državom prolazi kroz filter algoritma koji procjenjuje tvoju vrijednost, tvoj rizik, tvoju podobnost. A ti nećeš imati pojma da se to događa. Jer nitko ne postavlja prava pitanja. Svi su previše zauzeti čuđenjem što IRS koristi Palantir, umjesto da se čude što itko uopće smije koristiti takav softver bez jasnih pravila, bez nezavisnog nadzora, bez mogućnosti da građanin kaže: ne, ne pristajem da me se profilira na temelju mojih financijskih podataka. Ali tko će to reći? Pa nitko. Jer svi se boje da će, ako kažu ne, postati sumnjivi. A kad si sumnjiv, algoritam te već vidi. I nemaš se kamo sakriti.

Izvor: techcrunch.com