Odbijanje odgovora: Prag pouzdanosti smanjuje halucinacije za 40%

Halucinacije su jedan od najvećih izazova u primjeni velikih jezičnih modela (LLM). Čak i najnapredniji modeli povremeno generiraju netočne ili izmišljene informacije, što može ozbiljno narušiti povjerenje korisnika. No, postoji elegantno rješenje: umjesto da uvijek pokušavate odgovoriti, naučite model da kaže "ne znam" kada nije dovoljno siguran. Ovaj pristup, temeljen na pragu pouzdanosti, može smanjiti stopu halucinacija za 40% ili više.

Što je prag pouzdanosti?

Prag pouzdanosti je mehanizam koji procjenjuje vjerojatnost da je generirani odgovor točan prije nego što ga isporuči korisniku. Umjesto da uvijek daje odgovor, model uspoređuje svoju sigurnost s unaprijed definiranim pragom. Ako je sigurnost ispod praga, model odbija odgovoriti ili traži pojašnjenje. Time se sprječava širenje potencijalno netočnih informacija.

Kako funkcionira token-level probability threshold?

Ključna tehnika je analiza vjerojatnosti na razini pojedinačnih tokena. Svaki token koji model generira ima pridruženu vjerojatnost – što je veća vjerojatnost, to je model sigurniji u taj token. Implementacija uključuje:

• Izračun prosječne vjerojatnosti svih tokena u odgovoru.
• Usporedbu s pragom (npr. 0.7 ili 0.8).
• Odbijanje odgovora ako je prosječna vjerojatnost ispod praga.

Implementacija s vLLM i llama.cpp

vLLM i llama.cpp su popularni alati za pokretanje LLM-ova. Oba podržavaju pristup token-level logitsima, što omogućuje implementaciju praga pouzdanosti. Evo osnovnih koraka:

• U vLLM: Koristite SamplingParams s parametrom logprobs kako biste dobili vjerojatnosti tokena. Zatim implementirajte funkciju koja izračunava prosječnu vjerojatnost i uspoređuje je s pragom.
• U llama.cpp: Omogućite --log-probs i parsirajte izlaz kako biste dobili vjerojatnosti. Zatim primijenite istu logiku.

Rezultati: 40% manje halucinacija

Testiranja su pokazala da primjena praga pouzdanosti od 0.75 smanjuje halucinacije za 40-50% uz minimalan gubitak korisnih odgovora. Naravno, prag se može prilagoditi ovisno o zahtjevima aplikacije – viši prag daje veću točnost, ali i više odbijenih odgovora.

Zaključak

Odbijanje odgovora pri niskoj pouzdanosti nije znak slabosti, već mudrosti. Implementacijom token-level probability thresholda s vLLM ili llama.cpp možete dramatično smanjiti halucinacije i povećati povjerenje u svoj AI sustav.