Ironija zabrane koju je Anthropic već pokušao nametnuti
Eli otvara epizodu ismijavajući stanje AI rata između SAD-a i Kine, koji je po njemu ušao u fazu srednjoškolske drame: ne možeš me zabraniti, ja ću zabraniti tebe. Priča o tome kako je Alibaba zabranila zaposlenicima korištenje Claude Code od 10. srpnja 2026., klasificiravši ga kao visokorizični alat koji ugrožava organizacijsku sigurnost. Na prvi pogled to izgleda kao kineski otpor američkoj tehnologiji, način na koji to prikazuju mainstream mediji.
Ali Eli ukazuje na apsurd u srži cijele stvari. Kineske tvrtke uopće ne bi trebale imati pristup Anthropicu. Anthropic je ugradio kod i poduzeo niz mjera kako bi spriječio kineske tvrtke da pristupe njegovoj platformi, no one to i dalje čine. Sada Alibaba proglašava prevelikim sigurnosnim rizikom pristupanje platformi tvrtke koja i sama ne želi da joj pristupaju.
Eli naglašava da Anthropic vjerojatno niti ne želi da ih Alibaba koristi, pa cijela zabrana djeluje kao dvostruko sažrivanje repa. Poteza slijedi slične trendove kod američkih tehnoloških divova koji su zabranili kineske alate za internu upotrebu, ali Alibaba se poziva na stvarne zabrinutosti koje je priznao i sam Anthropic.
"Now, Alibaba has decided it's too much of a security risk to access the platform of a company that doesn't want you to access their platform."
Reverzni inženjering, opfuskacija i skriveni kod za praćenje Kineza
Kontroverza, objašnjava Eli, potječe od developera koji su reverznim inženjeringom razotkrili da Claude Code sadrži kod za identifikaciju kineskih korisnika. Otkriveni su testovi za kineske sustave, vremenske zone, proxy servere, infrastrukturu AI laboratorija i mrežne karakteristike. Anthropic tvrdi da je ta eksperimentalna značajka pokrenuta u ožujku i osmišljena za borbu protiv neovlaštenih preprodavača, sprječavanje zloupotrebe računa i zaštitu modela od AI distilacije.
Problem je što je taj takozvani spyware navodno bio skriven pomoću opfuskacije i steganografije, čineći ga praktički nevidljivim korisnicima. Eli koristi priliku da objasni razliku između enkripcije i opfuskacije. Enkripcija pretvara tekst u format koji se ne može pročitati bez ključa za dešifriranje. Opfuskacija ostavlja podatke tehnički čitljivima, ali toliko zbunjujuće da ih standardnim sredstvima većina ljudi ne može razumjeti.
Dakle, Anthropic je ugradio kod za praćenje korisnika svojih sustava kako bi spriječio ono što naziva distilacijskim napadima. Eli se pita treba li to uopće zvati spyware, ali suština je jasna: skriveni mehanizam nadzora ugrađen u alat koji developeri koriste svakodnevno.
"The spyware was reportedly hidden using obfuscation and steganography techniques making them effectively invisible to users."
Distilacijski napadi kao izmišljena prijetnja nacionalnoj sigurnosti
Eli objašnjava što je distilacija: jedan AI sustav upućuje zahtjev drugom AI sustavu, dobiva odgovor, i na temelju tog obrasca sustav niže kvalitete se poboljšava. Anthropic strahuje da kineske AI tvrtke koriste Anthropic za treniranje vlastitih modela i to naziva distilacijskim napadom.
Ono što Elija posebno iritira jest kako je Dario Amodei uspio uvjeriti Trumpovu administraciju da su distilacijski sustavi napadi i da to predstavlja pitanje nacionalne sigurnosti. Eli to smatra glupošću, dijelom je pripisujući starim ljudima koji nemaju pojma kako tehnologija funkcionira. On pokazuje kako lako obična rutina testiranja može postati navodni napad.
Zamislite, kaže, da ste inženjer u Meti. Kreirate AI sustav pa ga želite testirati protiv drugih opcija. Postavite zahtjev, vidite odgovor Metinog sustava i odgovor Anthropicovog sustava, usporedite ih, i ako mislite da je Anthropic bolji, počnete prilagođavati svoj sustav da daje bolji odgovor. Koliko brzo, pita Eli, jednostavna rutina provjere postaje takozvani distilacijski napad i navodno pitanje nacionalne sigurnosti.
"How quickly can a relatively basic and simple testing routine essentially turn into a quote-unquote distillation attack, which is a quote-unquote national security concern?"
Geeks be geeks: zašto se politike urušavaju u praksi
Središnja Elijeva teza jest da su ljudi ljudi, a geekovi geekovi. Kad geekovima kažete da nešto ne smiju raditi, oni će vidjeti što će se dogoditi. U tehnološkom svijetu vlada načelo da je bolje tražiti oproštenje nego dopuštenje, i ako isporučite rezultate, gotovo svi vaši prijestupi bit će oprošteni. To vrijedi za američke, španjolske i kineske geekove jednako.
Zato ima smisla da zaposlenici Alibabe koriste Claude Code i kad tehnički ne smiju. Eli priča anegdotu o zaposleniku kojeg je morao verbalno disciplinirati, a koji mu je rekao: da, ne bih volio biti na tvom mjestu sada. Nije se branio, samo je iskazivao suosjećanje s Elijevom nezgodnom situacijom, što ilustrira koliko je teško upravljati stručnjacima.
Isti obrazac Eli primjenjuje na argument da napredak kineskog AI-a dovodi u pitanje crno tržište Nvidia GPU-ova. Samo zato što neka zemlja ima politiku ili razvija tehnologiju, ne znači da geekovi neće zaobići pravila. Ako razvojni tim ima ekspertizu u CUDA-i i vjeruje da je Nvidia bolja, osoblje će zaobići svaku politiku kako bi postiglo svoj cilj.
"People be people and geeks be geeks. And when you tell geeks that they're not supposed to do something, you know, we'll see what happens."
Tko zapravo kontrolira tvrtke: rukovodstvo ili inženjeri?
Eli povlači paralelu s Metom, koja je prošli tjedan također zabranila Claude Code svojim AI developerima. Jedan od razloga bio je taj što Meta ne želi biti optužena za distilacijske napade. Mark Zuckerberg, kaže Eli šaljivo, prolazi kroz strašnu krizu srednjih godina i posljednje što mu treba jest pitanje nacionalne sigurnosti između njega i Anthropica.
Otvara i provokativno pitanje: što ako čelnici Alibabe zapravo ne žele raditi distilaciju Anthropica? Možda kineski rukovoditelji pokušavaju upravljati svojim stadom vrlo pametnih, vrlo motiviranih mačaka koje ne žele da provode napade, ali geekovi rade što geekovi rade. Tada izvor kompromitiranja tuđih sustava nisu autoriteti, nego sami zaposlenici.
Eli podsjeća na slučaj kada je Meta preuzela golemu zbirku piratiziranih knjiga bez plaćanja intelektualnog vlasništva, a potom pokušala kriviti pojedinog zaposlenika umjesto tvrtke, iako je tvrtka imala koristi. Zaključuje razmišljanjem koliko takozvanih distilacijskih napada zapravo dolazi od vrha korporacija u Kini, a koliko od inženjera koji jednostavno rade ono što inženjeri rade. Pravo pitanje, kaže, jest tko uopće kontrolira postupke ovih tvrtki.
"Who really controls the companies? Who controls the actions of these companies? I don't know."