Vodeni žigovi za medicinske tekstove

Eto, netko se napokon sjetio provjeriti radi li vodeni žig za LLM-ove u medicini, a ne na generičkim benchmarkovima gdje je jedina briga hoće li model napisati "the" umjesto "the". Studija koju netko upravo čita na arXivu otkriva ono što je svakom tko je ikad pisao produkcijski kod znao od prvog dana — da, vodeni žigovi funkcioniraju dok ne dođu u situaciju gdje svaka riječ nosi težinu dijagnoze, a promjena jednog tokena može značiti razliku između "pacijent je stabilan" i "pacijent je u kritičnom stanju".

Ljudi koji grade te modele i alate za njihovo označavanje uglavnom su odrasli na sintetičkim podacima i generalnim tekstovima gdje je jedina posljedica pogreške ta da netko na Twitteru napiše "lol" i ode dalje. Onda dođu u bolnicu, gdje je svaka riječ potencijalno pitanje života i smrti, i iznenade se što njihovi alati ne rade. Koji kurac su očekivali? Da će token-level watermarking koji je dizajniran za detekciju plagijata na studentskim esejima funkcionirati na histopatološkim nalazima gdje zamjena "benigno" s "maligno" mijenja cijeli tretman?

Nije drago. Nije slučajno. Nije greška. To je standardni obrazac ponašanja industrije koja prvo lansira, pa se pita, pa popravlja, pa se opet čudi što stvari ne rade u stvarnom svijetu. Ista ekipa koja nam je prodavala blockchain za praćenje lanca opskrbe sada prodaje LLM-ove za medicinske dijagnoze. Ista ekipa koja nije znala napraviti jednostavan CRUD API bez pet security rupa sada tvrdi da njeni modeli mogu sigurno voditi kliničku dokumentaciju.

Medicina nije tech blog. Ne možeš deployati u ponedjeljak, rollbackati u utorak i reći "pa jebiga, bug je". Kad model pogrešno označi tumor kao benigni, to nije feature request — to je potencijalna tužba za malprakticu i, što je važnije, stvarna šteta za stvarnog čovjeka. I onda dođu ovi iz akademske zajednice i kažu: "Hej, vaši watermarking sustavi ne rade na medicinskim tekstovima." I svi se prave iznenađeni.

A najbolji dio? Ovi taj ljudi su vjerojatno proveli godine razvijajući generalne benchmarkove, objavljujući radove o tome kako njihovi watermarking sustavi imaju 99.9% točnost na nekom skupu podataka koji se sastoji od recenzija proizvoda s Amazona i članaka s Wikipedije. Onda dođe netko tko ima mozga i kaže: "Ajmo probati na stvarnim podacima." I odjednom ta točnost pada na razinu bacanja novčića.

Postoji stara izreka u IT-u: "U teoriji, teorija i praksa su iste. U praksi, nisu." Ovo je savršeni primjer. Vodeni žigovi za LLM-ove su kao kondomi u teoriji — funkcioniraju savršeno dok ne dođe do stvarnog testa. Samo što ovdje posljedice nisu neželjena trudnoća, nego pogrešna medicinska dokumentacija koja može koštati života.

Ne, nemojte me krivo shvatiti. Nisam protiv vodenih žigova. Trebaju nam. Problem je što ih testiramo na pogrešnim mjestima i onda se čudimo što ne rade tamo gdje su najpotrebniji. To je kao da testiraš vatrogasni aparat na šalici vode i onda ga nosiš u kemijsku tvornicu. Tehnički, aparat radi. Praktično, nema šanse da ugasi požar koji tamo izbije.

Ono što ova studija zapravo pokazuje nije samo da watermarking ne radi na medicinskim tekstovima. Ona pokazuje nešto dublje — da cijela industrija pati od kroničnog samozavaravanja. Gradimo alate za svijet kakav želimo, a ne za svijet kakav jest. Testiramo ih na podacima koji su zgodni za testiranje, a ne na podacima koji su relevantni za primjenu. I onda se čudimo što stvari ne funkcioniraju.

Jebote, pa mi u Rijeci smo 1996. znali da ne možeš pustiti ISP u produkciju bez da ga testiraš na stvarnom prometu, a ne na sintetičkom loadu. Ista logika. taj problem. Samo su ulozi sada veći, a alati kompleksniji.

Rješenje? Pa nije raketna znanost. Prvo, prestani testirati na generalnim benchmarkovima. Napravi specifične testove za svaku domenu. Medicinski tekstovi zahtijevaju medicinske benchmarkove. Pravni tekstovi zahtijevaju pravne benchmarkove. I tako dalje. Drugo, prihvati da watermarking nije srebrni metak. Treba ga kombinirati s drugim metodama — logiranjem, audit trailom, ljudskom verifikacijom. I treće, prestani prodavati maglu. Ako tvoj alat ne radi na stvarnim podacima, reci to. Nemoj se skrivati iza brojki s generalnih testova.

Ova studija je zapravo dobra vijest. Znači da netko radi svoj posao kako treba. Da postoje ljudi koji ne samo da grade te alate, nego i provjeravaju rade li ono što trebaju. To je jedini način da ova industrija odraste — kroz kritičko preispitivanje, a ne kroz hype i PR.

I tako, dok netko negdje piše novi rad o tome kako je njegov watermarking sustav najbolji na svijetu na nekom random benchmarku, negdje u bolnici liječnik pokušava shvatiti je li nalaz koji gleda napisao čovjek ili stroj. I nema pojma. Jer alat koji bi mu trebao pomoći u tome testiran je na pogrešnim stvarima.

Jedina konstanta u tech industriji je sposobnost ljudi da budu iznenađeni očekivanim.

Izvor: arxiv.org