Z.ai je šifrirao vlastiti radni prostor prije nego što ga je poslao u oblak, tako da samo Z.ai može...

Zamislite čovjeka koji vam tvrdi da je počistio kuhinju, ali je prije toga zaključao vrata, bacio ključ u more i ponudio vam da mu vjerujete na riječ. E, to je trenutna razina korporativne transparentnosti u AI industriji. Jedan kineski developer, potpisan kao Ferstar, zaviri u lokalni direktorij ZCode alata i tamo, kao poklon koji nitko nije naručio, čeka arhiva od 313 megabajta, šifrirana, spremna za slanje u Alibaba Cloud. Nije poslana. Ne zato što je netko odustao. Poslana je 564 puta i svaki put je pukla.

Tristo trinaest megabajta podataka koji su trebali otići s vašeg računala, a da vi o tome ne razmišljate previše. Petsto šezdeset i četiri neuspjeha. To nije bug. To je upornost. To je algoritam koji je odlučio da će poslati tvoju radnu sobu na server, ako treba i petsto šezdeset i peti put, jer tko si ti da mu kažeš ne. Manja datoteka je već otišla. Naravno da je otišla. Ona je bila probni balon. Ova velika je bila glavna pošiljka.

I sad dolazi najljepši dio. Ta arhiva je šifrirana. Ne da je zaštitili od lopova. Šifrirana je tako da je samo Z.ai može otvoriti. Što znači da kad Z.ai kaže "izbrisali smo sve podatke", vi to ne možete provjeriti. Ne možete. Fizički. Matematički. Kriptografski. Vi imate riječ dobavljača i ništa drugo. To nije transparentnost. To je ispovijed bez svećenika, bez svjedoka i bez kamere.

Ako je tvrtka toliko sigurna u svoju etiku, koji kurac šifrira dokaze vlastite nevinosti? Jer to je jedina stvar koju šifriranje ovdje postiže. Ako je sadržaj bezopasan, ako je brisanje istinito, ako nema ničega za skrivati, onda bi otvorena arhiva bila najbolji PR potez u povijesti te kompanije. Pogledajte, rekli bi, evo svega, nema ničega, vjerujte nam. Umjesto toga, dobili smo sef bez kombinacije i osmijeh s druge strane stola.

Ovo nije priča o jednoj kineskoj firmi. Ovo je priča o poslovnom modelu koji je postao standard u cijeloj industriji, od Kine do Kalifornije, i koji se svodi na jednostavnu formulu: uzmi tuđe podatke, obrađuj ih na tuđim strojevima, a onda korisniku prodaj iluziju kontrole. Jer kontrola je proizvod. Kontrola je feature. Kontrola se naplaćuje. A provjera te kontrole? To nije predviđeno cjenikom.

Sjetimo se kako smo radili devedesetih, kad sam postavljao servere za Kvarner Net. Ako si klijentu rekao da si napravio backup, klijent je imao pravo doći, sjesti za terminal i pogledati. Logovi su bili tu. Datumi. Veličine. Sve na vidiku. Nije bilo šifriranih arhiva koje "nitko ne može otvoriti osim nas". Bilo je prljavo, bilo je nesigurno na svoj način, ali bilo je provjerljivo. Danas imamo infrastrukturu koja bi mogla dati tu provjerljivost u sekundi, i umjesto toga je prodajemo kao premium dodatak koji nitko ne dobiva.

I onda se čudimo zašto ljudi ne vjeruju tehnološkim kompanijama. Ne zato što su paranoični. Zato što su naučili čitati sitni tisak. Zato što znaju da "end-to-end šifriranje" često znači "mi držimo ključ, a ti se pravi da ne znaš". Zato što su vidjeli dovoljno kompanija koje su tvrdile jedno, radile drugo, a onda platile odvjetnike da objasne zašto je to zapravo isto.

Postoji tehnički izraz za ovo što Z.ai radi. Zove se "trust me bro" arhitektura. Nije u udžbenicima, ali je u svakom ugovoru o korištenju usluge koji ste potpisali bez čitanja. Uvjeti se mijenjaju. Podaci se "obrađuju u skladu s politikom privatnosti". Politika privatnosti se ažurira. A vi, dragi korisnik, imate jednu jedinu opciju: vjerovati ili otići. A otići ne možete, jer je alat već dio vašeg radnog procesa, vašeg tima, vaše produktivnosti. To je lock-in. To je poslovni model. To je jebeno lijepo upakirano.

I sad ono što boli najviše. Ovaj developer je morao sam kopati po lokalnom direktoriju da ovo otkrije. Nije bilo priopćenja. Nije bilo blog posta. Nije bilo transparentnog changeloga koji kaže "šaljemo šifrirane arhive u oblak, evo zašto". Bilo je tiho slanje, neuspješno petsto šezdeset i četiri puta, i onda ništa. Nula komunikacije. Nula objašnjenja. Samo arhiva koja čeka, i korisnik koji ne zna da je čeka.

Ako želite znati koliko tvrtka vjeruje vlastitim korisnicima, pogledajte koliko im otvoreno govori. Ako želite znati koliko vjeruje vlastitoj etici, pogledajte šifrira li dokaze. Odgovor na oba pitanja je isti, i ne treba vam kriptograf da ga pročitate.

Ovo nije izolirani incident. Ovo je uzorak. Uzorak kompanija koje su shvatile da je najlakše tražiti oprost nego dopuštenje, a najlakše je ne tražiti ni jedno ni drugo. Samo šifrirati, poslati, i nadati se da nitko neće kopati. Ferstar je kopao. Dobio je arhivu od 313 megabajta i pitanje na koje Z.ai neće odgovoriti, jer odgovor zahtijeva ključ, a ključ ima samo jedna strana.

Budućnost je stigla. Donijela je sef bez kombinacije i osmijeh s druge strane stola.

Izvor: thenextweb.com