Upravljanje bez razmišljanja

Šest milijardi dolara mjesečno je cijena koju kompanije plaćaju da ne moraju misliti. Nije točno, ali nije ni daleko od istine kad zbrojiš sve pretplate na alate koji obećavaju da će odraditi mozak umjesto tebe. I to je, naravno, sjajna vijest — dok ne shvatiš da netko mora odlučivati, a taj netko je sve rjeđe čovjek.

Menadžeri diljem svijeta otkrili su čaroliju delegiranja. Ne više ljudima — oni su skupi, imaju mišljenja i, jebote, znaju reći ne. Ne, sad delegiraju stroju koji nikad ne gunđa, nikad ne traži povišicu i nikad ne postavi ono neugodno pitanje: "Jesi li siguran da je ovo dobra ideja?" Jer stroj ne pita. Stroj izvršava. A izvršavanje bez razumijevanja nije produktivnost, to je kognitivna predaja na rate.

Zamisli kirurga koji dopusti skalpelu da odluči gdje će rezati. Zvuči suludo, zar ne? Pa ipak, iste te menadžere koji bi se zgrozili nad tom idejom ne smeta što AI alati odlučuju koga će zaposliti, koju strategiju pokrenuti i koji proizvod ubiti. Razlika je u krvi: kirurgova krv je crvena i vidiš je odmah. Menadžerova krv je crna — pojavi se na bilanci za tri kvartala, kad je već prekasno.

Tehnologija je postala previše dobra u skrivanju vlastitih grešaka. Stroj ne kaže "nisam siguran", stroj kaže "s 94 posto sigurnosti preporučujem". I ta brojka, ta jebena iluzija preciznosti, uspavljuje kritički dio mozga brže od ambijentalnog muzika u liftu. Jer kad ti algoritam kaže da je 94 posto siguran, ti pomisliš: "Pa to je gotovo pa sigurno." Ne pomisliš: "Tko je i na čemu trenirao taj algoritam? Koje podatke nije vidio? Koje pristranosti je upio kao spužva?"

Tu leži problem. Prodaju ti alat kao rješenje, a zapravo ti prodaju zamjenu. Ne skalpel, nego ruku koja ga drži. I ruka je sve slabija, sve nesignrnija, jer je atrofirala od neupotrebe. Daj stroju da misli umjesto tebe dovoljno dugo i iznenadiš se kad shvatiš da više ne znaš sam. To nije napredak. To je kulturno samoubojstvo na rate, s mjesečnom pretplatom.

A najgore od svega? Nema povratka. Jednom kad kompanija implementira AI u donošenje odluka, izvlačenje tog alata je gotovo nemoguće. Jer ljudi su zaboravili kako se radi bez njega. Procesi su se prilagodili stroju, ne čovjeku. Dokumentacija ne postoji jer "AI će to zapamtiti". A kad AI pogriješi — a pogriješit će, jer je statistički model, ne božanska istina — nema tko da ispravi kurs jer nitko više ne zna voziti.

Sjećam se devedesetih, kad smo postavljali prve servere za Kvarner Net. Nije bilo alata koji će ti reći zašto mreža pada. Sjeo bi, uključio ping, gledao logove i — jebote — mislio. Tražio uzrok. Danas bi AI rekao "detektiran problem na nodeu 47, preusmjeravam promet", i to je to. Nikad ne bi naučio zašto je node 47 otpao. A sutra će otpasti node 12, iz istog razloga, i AI će opet preusmjeriti, i opet, i opet, dok cijela infrastruktura ne postane mreža privremenih rješenja koja su postala trajna.

To je kognitivna predaja u svom najčišćem obliku: ne znati zašto nešto radi, samo da radi. Dok ne prestane.

Postoji ironija u svemu ovome. taj ljudi koji su prije deset godina govorili "podatci su nova nafta" sada su ti koji ne znaju što je u njihovim podatcima. Prodali su rudarenje, a zadržali samo naftnu mrlju. Algoritmi donose odluke na temelju prošlih obrazaca, što znači da budućnost koju grade nije ništa drugo nego prošlost preslikana u novo. Inovacija? Ma kakvi. To je kopiranje s filterom.

A ako misliš da je ovo problem samo za velike korporacije, varate se. Svaki startup koji danas diže novac ima pitch deck koji se oslanja na AI kao diferencijaciju. I svaki od tih startupa, prije ili kasnije, suočit će se s istim pitanjem: tko donosi odluke kad AI ne zna odgovor? I odgovor je, naravno, "nitko", jer su sve pametne glave koje su znale odgovor već dobile otkaz jer ih je zamijenio jeftiniji model.

Rješenje nije odbaciti tehnologiju. Rješenje je zadržati mozak uključenim dok je koristiš. Zvuči banalno, ali pogledaj oko sebe — koliko menadžera danas provjeri izlaz AI alata prije nego što ga pošalje dalje? Koliko ih postavi ono naivno pitanje: "Jesi li siguran?" Ne alatu, nego sebi. Jer alat je uvijek siguran. Samo ljudi sumnjaju. I upravo ta sumnja, taj trenutak nelagode, jedino što nas dijeli od potpune predaje.

Jedina konstanta u tech industriji je sposobnost ljudi da budu iznenađeni očekivanim.

Izvor: economist.com