Sud za prekršaje: nema više mjesta za tuđe greške

Plavi ekran smrti pravne države izgleda kao sudac koji gomila papire na stol i nema pojma jesu li ih napisali ljudi ili strojevi. Američki savezni sudovi su na udaru vala tužbi koje je generirala umjetna inteligencija, a odvjetnici su — gle čuda — shvatili da je jeftinije pustiti ChatGPT da napiše tužbu nego platiti pripravnika. Rezultat je poplava dokumenata koji zvuče kao da ih je napisao netko tko je pravo učio gledajući Suđenje u Nurembergu na YouTubeu, s brzinom 1.5x i bez titlova. Jedna sutkinja iz Colorada, savezna sutkinja za prekršaje, svakodnevno prosijava brdo takvih papira i pokušava odvojiti stvarne slučajeve od onih koji su izašli iz generatora teksta s upitom "napiši mi tužbu za diskriminaciju, ali nemoj pretjerivati s pravnim terminima jer neću shvatiti".

Problem nije u tome što ljudi koriste AI za pisanje pravnih dokumenata — problem je u tome što ti dokumenti izgledaju tačno onako kako izgleda prvi draft svakog teksta koji je napisao netko tko ne zna što radi: uvjerljivo na prvu, besmisleno na drugu, katastrofalno na treću. I sudovi, koji su ionako preopterećeni, sada moraju trošiti dragocjeno vrijeme na provjeru autentičnosti svakog dokumenta koji uđe u sustav. To je kao da u poštanski sandučić svaki dan dobivaš 200 pisama od kojih je 150 napisao tvoj tinejdžer koji je upravo otkrio da postoji alat za generiranje eseja i sad ti piše ljubavna pisma na latinskom, s gramatikom koja bi rasplakala i Cicerona.

Sustav je dizajniran za pretpostavku dobre vjere. Pretpostavlja da odvjetnici znaju što rade, da stranke govore istinu, da su dokumenti proizvod ljudskog uma i truda. AI je tu pretpostavku razbio u paramparčad, a da pritom nije ništa novo izmislio — samo je uzeo ono najgore što ljudi rade, automatizirao ga i prodao kao "uštedu vremena". Koji kurac znači ušteda vremena ako to vrijeme onda trošiš na popravljanje sranja koje je ušteda generirala? To je ko da instaliraš automat za kavu u uredu, ali svaka druga šalica izađe puna deterdženta, pa ti trošiš vrijeme na ispiranje aparata umjesto na ispijanje kave. Jebeno.

Pravni sektor je oduvijek bio spor u usvajanju tehnologije. I to s razlogom — pogreška u kodu košta refresh stranice, pogreška u ugovoru košta milijune i sudski spor. Ali sada su odvjetničke tvrtke shvatile da mogu prepoloviti troškove tako što će AI generirati prve verzije dokumenata, a ljudski pregled svesti na minimum. Rezultat je dokument koji izgleda profesionalno, ali sadrži reference na slučajeve koji ne postoje, citate koji su izmišljeni i argumente koji nemaju veze s temom. To nije pravna revolucija — to je pravna verzija onog tipa koji na spoju recitira poeziju koju je napisao ChatGPT i misli da ćeš pasti na foru dok ne shvatiš da stihovi nemaju smisla i da su rime nasumične.

Sutkinja iz Colorada, koja je provela godine gradeći karijeru na preciznosti i poštenju, sada provodi sate pokušavajući shvatiti je li dokument koji joj leži na stolu proizvod ljudske gluposti ili strojne gluposti. Razlika je suptilna, ali važna — ljudska glupost je predvidljiva, strojna glupost je kreativna na načine koji tjeraju suce da posežu za kavom u deset ujutro i za nečim jačim u pet popodne. Jedan dokument je tvrdio da tužitelj ima pravo na odštetu jer je AI prepoznao "obrazac diskriminacije" u njegovom otkazu, a ispostavilo se da je obrazac bio to što je šef bio nepristojan prema svima, bez obzira na boju kože, spol ili vjeroispovijest. AI je jednostavno pročitao "nevoljen od strane nadređenog" i zaključio da je to diskriminacija. Pametno, ali pogrešno. Baš kao i svaki drugi alat koji ne razumije kontekst.

Ono što je najzabavnije u cijeloj priči je činjenica da su upravo oni koji su najglasnije propovijedali o moći AI i njegovoj sposobnosti da transformira industrije sada ti koji gledaju kako im se vlastiti proizvod vraća kao bumerang u obliku besmislenih tužbi i pravnih gluposti. Prodali su nam priču da će AI riješiti sve probleme, a sada sudovi rješavaju probleme koje je AI stvorio. To je klasična tech industrija: stvori problem, prodaj rješenje, pa kad rješenje stvori novi problem, prodaj još jedno rješenje. I tako u krug, dok ne ostaneš bez novca i bez živaca.

Ako je AI toliko pametan, zašto mu treba čovjek da provjeri je li napisao legalnu tužbu ili je upravo izmislio novu vrstu pravnog prekršaja koju nitko nije ni zamislio? Ako je toliko sposoban, zašto njegovi korisnici ne mogu prepoznati da su dobili besmislen dokument? Možda odgovor leži u činjenici da AI nije pametan — on je samo brz. Brz u generiranju bullshita koji izgleda kao istina, brz u repliciranju obrazaca koje ne razumije, brz u stvaranju iluzije kompetencije koja traje tačno do trenutka kad netko tko zna što radi pogleda u dokument.

Sudovi će se prilagoditi. Uvest će nove filtere, nove provjere, nove protokole. Odvjetnici će naučiti da ne mogu vjerovati alatu koji ne razumije što radi. A AI će nastaviti generirati dokumente, tužbe, ugovore i pisma koja će netko drugi morati provjeravati i ispravljati. Jedina konstanta u ovoj priči je sposobnost ljudi da budu iznenađeni očekivanim — i da plate premiju za to iznenađenje.

Izvor: technologyreview.com