LoRA fino ugađanje 7B modela na hrvatskim pravnim korpusima s jednom 4090

Uvod u LoRA fino ugađanje na hrvatskim pravnim tekstovima

Fino ugađanje velikih jezičnih modela (LLM) na specijaliziranim domenama poput prava može značajno poboljšati njihovu točnost i relevantnost. U ovom članku opisujemo kako smo koristili LoRA (Low-Rank Adaptation) za fino ugađanje 7B modela na hrvatskim pravnim korpusima, koristeći samo jednu RTX 4090 grafičku karticu. Ovaj pristup omogućuje učinkovito prilagođavanje modela bez potrebe za skupom infrastrukturom.

Priprema podataka i korpusa

Prvi korak bio je prikupljanje i čišćenje hrvatskih pravnih tekstova. Koristili smo javno dostupne sudske odluke, zakone i pravne komentare. Podaci su tokenizirani i formatirani u parove upita i odgovora. Važno je osigurati da korpus bude reprezentativan i da pokriva različite pravne oblasti. Preporučujemo korištenje alata poput Hugging Face Datasets za jednostavno rukovanje podacima.

Implementacija LoRA tehnike

LoRA omogućuje fino ugađanje dodavanjem niskorangnih matrica prilagodbe postojećim težinama modela. To smanjuje broj parametara koje treba optimizirati, čineći proces izvedivim na potrošačkom hardveru. Koristili smo biblioteku PEFT (Parameter-Efficient Fine-Tuning) iz Hugging Facea. Konfiguracija je uključivala rang 8, alpha 16 i dropout 0.1. Ove vrijednosti su se pokazale optimalnima za naš slučaj.

Proces treniranja na RTX 4090

Treniranje je trajalo otprilike 12 sati na jednoj RTX 4090 s 24 GB VRAM-a. Koristili smo mixed precision training (FP16) kako bismo uštedjeli memoriju. Batch size je postavljen na 4, a gradient accumulation steps na 8. Ovo je omogućilo stabilno treniranje bez prekoračenja memorije. Ključni izazov bio je balansiranje između brzine i kvalitete. Preporučujemo praćenje gubitka (loss) i prilagođavanje hiperparametara prema potrebi.

Zamke i rješenja

• Prekomjerno prilagođavanje (overfitting): Korpus je relativno mali, pa smo koristili dropout i early stopping kako bismo spriječili prekomjerno prilagođavanje.
• Nedostatak memorije: Smanjili smo batch size i koristili gradient checkpointing kako bismo smanjili potrošnju VRAM-a.
• Nekonzistentni formati podataka: Standardizirali smo sve tekstove u UTF-8 i uklonili nepotrebne znakove.
• Spore konvergencije: Povećali smo learning rate na 2e-4 i koristili AdamW optimizer s cosine schedulerom.

Evaluacija i objava modela

Nakon treniranja, evaluirali smo model na skupu testnih pravnih pitanja. Rezultati su pokazali značajno poboljšanje u točnosti i relevantnosti odgovora u usporedbi s osnovnim modelom. Model smo objavili na Hugging Face Hub pod nazivom RiNET-legal-7B. Dostupan je za preuzimanje i korištenje pod MIT licencom. Ovaj model može poslužiti kao temelj za daljnja istraživanja i aplikacije u pravnoj domeni.