Pozicija: Bihevioralni sustavi zahtijevaju bihevioralne testove

Četrdeset milijardi dolara je cifra koja bi u normalnom svijetu trebala omogućiti kupnju malog otoka, privatne vojske i doživotne opskrbe šampanjcem, ali u Silicijskoj dolini, to te samo čini dijelom ekipe koja još nije dokazala da zna zaraditi. Umjetna inteligencija, koja je trebala revolucionirati naše živote, sada se suočava s vlastitim problemima — ne onima koje su stvorili ljudi, već onima koje je sama sebi nametnula. Pitanje koje svi izbjegavaju je: kako procjenjujemo te umjetne agente? Da li ih mjerimo samo po rezultatima ili i po procesu koji je do njih doveo?

U ovom ludom svijetu gdje AI agenti postaju sve sličniji ljudima, trebamo se zapitati: kako ih procijeniti? Kao što se u dobrom restoranu očekuje da šef kuhinje ne samo da napravi ukusno jelo, već i da zna kako je to jelo nastalo, tako i umjetni agent treba proći kroz svoje vlastite "kuhinjske" testove. Umjesto da se zadržavamo na površini i mjerenju performansi, trebamo promijeniti pristup i zaviriti dublje u njihovo ponašanje, poput detektiva koji pokušava razriješiti misteriju. Koliko puta smo čuli za AI koji je "samo pogriješio", a zapravo je iza te pogreške stajala kompleksna mreža odluka, algoritama i, naravno, ljudskih predrasuda?

Ono što nam treba je sustavna promatranja, perturbacija i interpretacija njihova djelovanja. Zamislite da se umjetna inteligencija ponaša kao malena djeca koja uče iz okoline. Kad padnu, trebaju znati zašto su se to dogodilo. Trebamo ih učiti, ali ne na način da im damo samo nagrade i kazne. Trebamo ih pratiti, analizirati i razumjeti procese koji ih dovode do određenih odluka. Jer, tko se sjeća da je nekad postojala ideja da bi AI mogao biti od pomoći u donošenju sudskih odluka? Sad se pitamo, ako su ti sustavi toliko napredni, zašto se ne mogu ponašati kao odgovorni članovi društva?

Kad se osvrnemo na povijest, lako možemo primijetiti da su se mnoge tehnologije razvijale bez sustavnog pristupa. Prvo su se pojavili automobili, a zatim su ljudi shvatili da im trebaju pravila, ceste i prometni znakovi. Isto tako, umjetna inteligencija se širi poput korova — brzo, nepredvidivo i na kraju, potrebno je postaviti granice. Naše procjene moraju uključivati više od pukog gledanja u brojke. Umjetna inteligencija mora proći kroz svoj vlastiti proces učenja, a to uključuje i suočavanje s neuspjesima.

Zamislite AI model koji se uči iz podataka, ali nikad ne dobije priliku da shvati posljedice svojih odluka. Zvuči poznato? Naravno da zvuči. U tom slučaju, reakcije će biti poput djeteta koje se neprestano ponavlja, bez razumijevanja zašto nešto funkcionira, a nešto ne. Onda dolazimo do toga da se pitamo — ako se AI ne može ponašati kao odgovoran subjekt, zašto mu uopće dajemo autonomiju?

su tehnologije koje nam se nude često samo prepakirani proizvodi stare ideje. U ovom slučaju, umjetna inteligencija se ne razlikuje. Pravo pitanje nije koliko je ona pametna, već koliko je sposobna preuzeti odgovornost za svoje postupke. Previše smo se oslonili na tehnologiju da bi riješila naše ljudske probleme bez da smo se zapitali: tko će ih držati odgovornima kad nešto pođe po zlu? Ako je AI toliko pametan, zašto mu treba milijarde dolara i snaga male države da nauči ono što moja baka zna od rođenja — da ne vjeruješ svemu što pročitaš?

Ponekad se čini da je umjetna inteligencija poput mladog studenta koji je upravo završio fakultet, pun ideja i entuzijazma, ali bez stvarnog iskustva. Bez nadzora i smjernica, taj student može donijeti katastrofalne odluke samo zbog neznanja. U tom smislu, naši AI agenti trebaju prolaziti kroz iste testove koje bi prošli ljudi. Trebamo ih promatrati, učiti iz njihovih grešaka i pomoći im da razumiju svijet u kojem djeluju.

Budućnost umjetne inteligencije ne leži samo u njenoj sposobnosti da donosi odluke, već i u tome kako mi, kao društvo, pristupamo njenom razvoju i primjeni. Ako se ne počnemo ponašati odgovorno prema ovim sustavima, riskiramo da stvorimo svijet u kojem nas tehnologija vodi, a ne mi nju. Neka nas ne zavara podatak da su AI sustavi savršeni. su savršenstvo i tehnologija često u suprotnosti jedni s drugima.

Na kraju, ne zaboravimo da su svi ti sustavi stvoreni od strane ljudi, koji su, usput budi rečeno, također skloni pogreškama. Kad sljedeći put pogledate u budućnost tehnologije, zapitajte se — tko će nas naučiti da ispravimo vlastite pogreške? Jer ako ne preuzmemo odgovornost sada, tko će to učiniti umjesto nas?

Izvor: arxiv.org