IEEE je konačno odlučio stati na loptu
Ako misliš da je ovo korak naprijed, nisi dovoljno dugo u ovom poslu. Ovo je priznanje da je industrija medicinskih aplikacija postala Divlji zapad u kojem svatko sa šest mjeseci Courserinog tečaja i predloškom iz Fluttera može objaviti aplikaciju koja "pomaže" kod kliničke depresije. I ljudi to preuzimaju. I vjeruju. I plaćaju.
Pitanje koje nitko ne postavlja, a trebao bi, glasi: zašto je trebalo IEEE-ju, inženjerskoj organizaciji staroj 140 godina, da tek sad uvede verifikaciju za nešto što bi trebala biti osnovna regulacija? Gdje su FDA, EMA, Hrvatska agencija za lijekove i medicinske proizvode? Odgovor je jednostavan: nema ih. Regulatorna tijela su prespora, preopterećena i previše uplašena da bi dirala u tech industriju koja ima bolje odvjetnike i više lobista nego cijeli farmaceutski sektor zajedno.
Pogledaj brojke. Prema podacima iz industrije, više od 350.000 zdravstvenih aplikacija na tržištu, a manje od 2% ima bilo kakvu kliničku potvrdu. Dvije. Posto. Ostalo su nagađanja, anegdote i marketinški copy koji zvuči kao da ga je pisao netko tko je čuo za pojam "znanstvena metoda" na TEDx predavanju.
IEEE-jev program je, naravno, dobrodošao. Ali nije rješenje. To je flaster na otvorenu ranu. IEEE provjerava sigurnost podataka, funkcionalnost, usklađenost sa standardima. Ne provjerava djeluje li aplikacija. Ne provjerava hoće li osobi s kliničkom depresijom pomoći ili odmoći. IEEE nije FDA. IEEE je certificirani mehaničar koji ti kaže da auto ima ispravne kočnice, ali ne garantira da znaš voziti.
A najgore tek dolazi. Jer kad IEEE stavi svoj pečat, aplikacija dobiva aura legitimnosti. "IEEE Verified" postaje zlatna naljepnica koju će developeri stavljati na landing page, u App Store description, u press release. "Nezavisno verificirano od strane IEEE-ja." I korisnik, koji ne zna razliku između IEEE-ja i IKEA-e, pomislit će: "Ovo je sigurno. Ovo je provjereno. Ovo je znanost."
Nije. Ovo je marketing.
IEEE je, u najboljoj namjeri, stvorio alat koji će najbrže pokupiti upravo one koji su ga najmanje trebali — aplikacije koje su dovoljno velike da plate verifikaciju, dovoljno pametne da prođu checklistu, i dovoljno cinične da znaju da pečat ne znači ništa osim da su platili pristojbu i prošli audit. Manji developeri, oni koji stvarno rade dobar posao, često nemaju budžet za IEEE verifikaciju. Ironija je savršena: pečat kvalitete postaje još jedna barijera za ulaz, još jedan način da veliki igrači učvrste dominaciju.
Sjećam se devedesetih, kad smo dizali prve servere za Kvarner Net. Internet je bio Divlji zapad, ali barem si znao da je Divlji zapad. Nije bilo lažnih certifikata, lažnih pečata, lažnog osjećaja sigurnosti. Znao si da je netko tamo s druge strane vjerojatno dobar čovjek, ali si i znao da možda nije. Danas imamo IEEE verifikaciju, GDPR usklađenost, ISO certifikate, i ljudi su manje sigurni nego ikad. Jer su uvjereni da je netko drugi provjerio umjesto njih.
A nije.
IEEE je napravio dobru stvar. Ali dobra stvar nije dovoljna. Problem medicinskih aplikacija nije tehnički — problem je etički. Problem je što industrija zarađuje na nadi, strahu i neznanju, i što je ta zarada prevelika da bi itko ozbiljno htio regulirati. IEEE-jev pečat je kao postavljanje semafora na raskrižju gdje su automobili bez kočnica. Semafoor je super. Ali auto i dalje ne može stati.
Jedino što IEEE-jeva verifikacija garantira je da će sutra na tržištu biti više aplikacija s pečatom, više aplikacija koje izgledaju legitimno, više aplikacija koje će ljudi preuzimati umjesto da odu liječniku. Jer eto, provjereno je. IEEE je rekao da je ok.
Nije ok. I nikad neće biti ok dok god se medicinske aplikacije tretiraju kao običan software. One su medicinski proizvodi. Točka. I trebaju proći istu razinu testiranja, iste kliničke studije, istu regulaciju kao i svaki drugi medicinski proizvod. Ako aplikacija tvrdi da pomaže kod depresije, neka dokaže. S kliničkom studijom. S placebom. S dvostruko slijepom metodom. Bez iznimke.
Do tada, IEEE Verified je samo još jedna naljepnica na kutiji koja ne garantira ništa osim da je netko platio da je stavi. I to je, u svijetu gdje ljudi vjeruju aplikacijama više nego liječnicima, opasnije nego da pečata uopće nema.
Izvor: spectrum.ieee.org
Zanima vas ovakva AI tehnologija?
RiNET gradi sovereign AI rjesenja za javni sektor i poduzeca - od civic intelligence do automatizacije nabave.
Kontaktirajte nas →
Komentari