Amodei: Anthropic nigdy nie postulowało zakazu otwartych wag. Chce za to obowiązkowych testów bezpieczeństwa

Trzy dni po tym, jak Jensen Huang opublikował list otwarty w obronie modeli z otwartymi wagami, a pod dokumentem w ciągu doby zebrało się ok. 50 podpisów bez Anthropic i Amazon, głos zabrał szef nieobecnej firmy. Dario Amodei odniósł się w poniedziałek 27 lipca do tezy, że Anthropic zabiega w Waszyngtonie o zablokowanie chińskich modeli otwartych — albo otwartych wag w ogóle.

Co dokładnie powiedział Amodei?

„Anthropic nigdy nie opowiadało się za zakazem modeli z otwartymi wagami“ — napisał, po czym wyliczył, na czym jego zdaniem powinna skupić się polityka: „na trzymaniu potężnych chipów z dala od rąk reżimów autorytarnych, na powstrzymaniu destylacji na skalę przemysłową i na wymogu testów bezpieczeństwa dla wszystkich dostatecznie zdolnych modeli — otwartych i zamkniętych“. Firma opublikowała równolegle dokument programowy ze swoim stanowiskiem wobec otwartych wag.

Czego więc obawia się Anthropic?

Nie samego formatu, tylko tego, kto go użyje. Amodei twierdzi, że rządy autorytarne zbudują modele mocniejsze od amerykańskich i wykorzystają je do uzyskania „trwałej przewagi militarnej“ albo do represjonowania własnych obywateli. W tym scenariuszu otwarte wagi są jego zdaniem groźniejsze od zamkniętych, bo do modelu, którego pliki krążą po sieci, trudno przyłożyć zabezpieczenia i praktycznie nie da się monitorować, do czego jest używany.

Skąd w ogóle ten spór

Zapalnikiem był Kimi K3 — chiński model, który zbliżył się do granicy możliwości amerykańskich systemów przy ułamku ich kosztu, a od poniedziałku ma publicznie dostępne wagi. Sygnatariusze listu Huanga — m.in. Nvidia, Microsoft, Meta, Mistral i Hugging Face — apelują, by Waszyngton nie odpowiadał na to szerokimi restrykcjami. Anthropic ma w tej sprawie interes własny i konflikt zarazem: to ta firma oskarżyła Moonshot AI o nieautoryzowaną destylację modelu Fable przy budowie Kimi K3, a fragment listu broniący destylacji jako uprawnionej techniki badawczej trudno byłoby jej podpisać.

Postulat, który Amodei stawia w miejsce zakazu — obowiązkowe testy dla modeli powyżej pewnego progu zdolności, niezależnie od licencji — trafia w moment, w którym administracja ma do 1 sierpnia przedstawić własne ramy oceny modeli frontier.