AI chatboti u radiologiji: opasna sigurnost u pogrešnim rukama

Tri četvrtine pacijenata koji su barem jednom u životu radili rendgenske snimke oslanjaju se na stručnost radiologa — a što ako ti radiologi budu zamijenjeni algoritmima koji su toliko samouvjereni da bi te poslali kući s dijagnozom koja se temelji na pogrešnom tumačenju? U redu, možda ne bi baš svi završili s pogrešnom dijagnozom, ali je očito da povjerenje u AI-a postaje sve veće, dok su zalihe zdravog razuma na opasno niskim razinama.

Zamislite da vam algoritam kaže kako ste potpuno zdravi, dok vam se u plućima šulja tumor veličine jabuke. Pa, jebeno, to bi mogla biti stvarnost ako se AI-u ne postave jasne granice. Svijet radiologije nije samo o obradi slika, već i o kontekstu, iskustvu i intuiciji — onome što niti jedan softver, koliko god dobar bio, ne može replicirati. AI može učiti iz podataka, ali što ako pogrešno procijeni? Kad se radi o zdravlju, tko će biti odgovoran kad algoritam pogriješi?

U tom scenariju, radimo na Zabrinutosti 101 — algoritam s povjerenjem koje bi moglo konkurirati i najoptimističnijim pacijentima. Situacija postaje komična kad shvatite da onaj tko se nikad nije suočio s ljudskim emocijama, poput straha, tjeskobe ili čak panike zbog mogućih bolesti, donosi odluke u ime čovjeka.

Trenutno se postavlja pitanje: koliko smo spremni dati AI-u moć odlučivanja? Možda nije toliko daleko od onoga što se događa s vojnim dronovima ili autonomnim vozilima. Kada vaša sigurnost ovisi o algoritmu koji može biti podložan grešci, stavljate se u opasnu poziciju. Tada dolazi do apsurda — što je sigurnije, da vas pregleda čovjek ili mašina koja može biti "sigurna" u svoju pogrešku?

Razlika između čovjeka i mašine nije samo u tome tko bolje analizira podatke, već i u razini empatije koja je potrebna za procjenu stanja pacijenta. Čak i najbolji AI model može biti samo alat, dok su ljudi ti koji donose konačne odluke. Stoga, kada vidite da se AI sa samopouzdanjem približava analizi rendgenskih snimaka, pitam se: koji kurac su mislili kada su mu dali povjerenje bez ikakvog nadzora?

Sve to dovodi do nužnosti postavljanja granica. Algoritmi ne bi trebali odlučivati sami, već bi trebali biti dodatak ljudskom znanju, a ne zamjena. Ako AI postane "glavni" radiolog, to će biti poput slanja vojnika u rat s puškom koja nikad nije bila testirana — previše rizika za previše nepoznanica.

Dok se borimo s ovom novom tehnologijom, ne možemo se ne zapitati: ako AI može biti toliko samouvjeren u pogrešnim dijagnozama, koliko je zapravo daleko od toga da postane "glavni" decision-maker? I tko je zapravo zadužen za nadzor? Određeni su programi i standardi, ali kad se pojavi kriza, tko će biti taj koji će na kraju snositi odgovornost?

A onda, naravno, dolazimo do pitanja koja ne možemo ignorirati. Ako je AI toliko pametan, zašto mu treba milijarde dolara i snaga države da nauči ono što je očito — da ne vjeruješ svemu što ti kažu?

U svijetu gdje se AI prikazuje kao spašavatelj ljudske vrste, ne smijemo zaboraviti da je on samo alat. Svi smo mi doživjeli trenutke kada smo se oslanjali na tehnologiju, a kasnije se zapitali je li to bila dobra odluka. Sada, kada se suočavamo s tehnologijom koja može u potpunosti promijeniti naš odnos prema zdravlju, moramo biti oprezni.

S obzirom na sve, budućnost radiologije ne smije biti prepuna samopouzdanja algoritama, već iskrenosti i odgovornosti ljudi koji te algoritme koriste. A ako to ne učinimo, svi ćemo jednog dana završiti na rendgenskim snimkama koje su nam "savjetovali" AI chatboti. I tada ćemo se pitati — kako smo došli do ove situacije?

Izvor: the-decoder.com