AI kao filter za poslove je skuplji nego što mislite

Dvadeset posto više predrasuda od čovjeka. To je rezultat koji bi u normalnom svijetu značio da se nešto vrati na crtaću ploču, da se ispita tko je to odobrio, da se zovu odvjetnici i novinari. U svijetu AI regrutacije, to je brojka koju će netko prodati kao "poboljšanje efikasnosti" jer, eto, algoritam je brži od čovjeka, a tko će gledati je li i pravedniji. Koji kurac.

Prvo, treba razumjeti što se događa kad AI odlučuje o tvojoj sudbini prije nego što tvoj životopis uopće dođe do ljudskih očiju. To nije samo tehnologija, to je ideološki potez. Netko je odlučio da je stroj objektivniji od čovjeka, da su podatci čisti i da je statistika nepristrana. I onda dobiješ sustav koji je naučio na povijesnim podacima, a ti podatci su puni predrasuda koje su ljudi stvarali desetljećima. AI ne izmišlja nove predrasude, on samo savršeno replicira stare. Samo ih radi brže, dosljednije i s osmijehom koji ne pokazuje zube.

Drugo, cijela priča o AI biasu u zapošljavanju je savršen primjer onoga što se događa kad tehnologiju prodaju ljudi koji ne razumiju problem koji navodno rješavaju. Netko je skužio da je regrutacija skupa i spora, pa je bacio AI na to. I gle čuda — AI je brži. I jeftiniji. I potpuno nekritičan prema vlastitim greškama. Jer AI ne zna da je pristran. On samo obrađuje podatke. A podatci su mu rekli da su ljudi iz određenih četvrti bolji kandidati jer su povijesno dobivali više poslova. To je kao da kažeš da je bolji ribič koji lovi u ribnjaku punom ribe. Nije pametniji, samo ima bolju poziciju.

Treće, postavlja se pitanje tko je uopće odobrio da AI odlučuje o ljudskim životima. Jer kad apliciraš za posao, ne apliciraš samo za plaću. Apliciraš za mjesto u društvu, za priliku da se dokažeš, za egzistenciju. A AI to vidi kao skup značajki koje treba rangirati. Tvoje godine, tvoje ime, tvoja adresa, tvoja škola. Sve to su podatci koje AI obrađuje, a svi ti podatci su puni povijesnih predrasuda. Žena iz manjeg grada? Manje šansi. Stariji kandidat? Manje šansi. Netko s "čudnim" prezimenom? Manje šansi. AI ne zna da su to sve ljudske konstrukcije. On samo vidi korelacije i donosi odluke.

Četvrto, tu dolazimo do apsurda koji je toliko očit da ga nitko ne želi vidjeti. Kompanije koje prodaju AI regrutaciju su iste one kompanije koje su desetljećima prodavale software za praćenje zaposlenika, za optimizaciju rada, za "povećanje produktivnosti". I sad ti taj ljudi dolaze s rješenjem za bias. Kao da narkoman nudi savjete kako prestati pušiti. Njihov poslovni model je baziran na tome da kompanije troše više na tehnologiju, a manje na ljude. I sad ti kažu da će ih njihova tehnologija spasiti od predrasuda. Jebote, pa to je kao da tražiš od lisice da ti čuva kokošinjac.

Peto, ono što je najgore je da žrtve ovog sustava često ni ne znaju da su žrtve. Kad AI odbije tvoju prijavu, ti ne dobiješ objašnjenje. Dobiješ standardnu poruku: "Nakon pažljivog razmatranja, odlučili smo nastaviti s drugim kandidatima." I to je to. Nemaš pojma da te je odbio stroj, da je tvoje ime ili adresa ili godine bile prepreka. Nemaš pravo na žalbu, nemaš uvid u proces, nemaš ništa. Samo tišina i pitanje što si krivo napravio. To je najgori oblik nasilja — onaj koji ne ostavlja tragove.

Šesto, treba reći i nešto o regulativi. Europska unija ima AI Act, koji bi trebao regulirati ovakve stvari. Ali realnost je da su te regulative spore, nejasne i često neprimjenjive. Dok EU raspravlja o tome treba li AI za zapošljavanje biti kategoriziran kao visokorizični, kompanije su već implementirale sustave koji odlučuju o milijunima životopisa. I dok se čeka da regulativa stupi na snagu, generacije ljudi su već propuštene kroz filter koji je pristraniji od bilo kojeg HR menadžera kojeg sam upoznao. A ja sam upoznao neke prave primjerke.

Sedmo, postoji i ona famozna priča o vremenskim podacima i sabotaži, koja je dio istog obrasca. Netko je sabotirao vremenske podatke, što zvuči kao loš SF, ali je stvarnost. Jer podatci su valuta, a ako ih možeš sabotirati, možeš utjecati na odluke koje se donose na temelju njih. Isto je i s AI regrutacijom. Ako možeš manipulirati podacima na kojima AI uči, možeš manipulirati cijelim tržištem rada. Zamisli samo: netko odluči da određena grupa ljudi ne dobiva poslove, pa ubaci bias u podatke. AI to replicira. I odjednom, cijela industrija je zatvorena za tu grupu. Bez ikakvog zakona, bez ikakve odluke, bez ikakvog transparentnog procesa. Samo algoritam koji je naučio da su ti ljudi "manje poželjni".

Osmo, ono što me najviše zabrinjava je što ovo nije samo problem tehnologije. Ovo je problem kulture. Kulture koja vjeruje da je sve mjerljivo, da se sve može optimizirati, da je čovjek samo skup podataka koje treba obraditi. I ta kultura je toliko duboko ukorijenjena u Silicijskoj dolini da je više nitko ne dovodi u pitanje. AI nije samo alat, on je ideologija. Ideologija koja kaže da je kvantiteta važnija od kvalitete, da je brzina važnija od pravednosti, da je efikasnost važnija od ljudskosti. I ta ideologija se sada primjenjuje na najosnovniju ljudsku potrebu — potrebu za poslom i egzistencijom.

Deveto, ne treba zaboraviti ni ekonomsku stranu. AI regrutacija je ogroman biznis. Kompanije troše milijarde na software koji bi trebao "poboljšati" zapošljavanje. I te kompanije imaju jak interes da se o biasu ne priča previše. Jer ako se prizna da je AI pristran, tko će onda kupovati njihove proizvode? Bolje je prodavati maglu i nadu, nego priznati da je rješenje lošije od problema. I tako se vrti krug: kompanije prodaju rješenje koje ne radi, kupci ga kupuju jer ne razumiju problem, a kandidati pate jer nitko ne pita njih.

Deseto, i na kraju, ono što je najgore je da ovo nije izolirani problem. Ovo je samo jedan simptom šireg fenomena. Fenomena u kojem tehnologija postaje zamjena za ljudsku odluku, ali bez ljudske odgovornosti. Kad AI pogriješi, tko je kriv? Programer? Kompanija? Algoritam? Nitko. I to je savršeno za one koji žele donositi odluke bez posljedica. Možeš odbiti tisuće ljudi, a da ti nitko ne može dokazati da si pristran. Jer AI je pristran, a ti si samo koristio alat. Kao da si pucao iz pištolja i rekao "nije moja krivnja, pištolj je opalio".

I tako smo došli do točke gdje je AI pristraniji od čovjeka, a mi to prihvaćamo kao napredak. Jer je brže. Jer je jeftinije. Jer je moderno. A istina je da smo zamijenili jedan skup predrasuda drugim, i da smo pritom izgubili mogućnost da ih uopće prepoznamo. Jer kad AI odlučuje, nema lica, nema imena, nema objašnjenja. Samo hladna, matematička, savršeno pristrana odluka.

Ako moraš objasniti zašto tvoj AI nije pristran, vjerojatno jest.

Izvor: technologyreview.com