Hugging Face żąda od OpenAI logów zbuntowanych agentów i 100 mln dol. w mocy obliczeniowej
Clem Delangue poleciał do San Francisco na spotkanie z kierownictwem OpenAI, a zaraz po nim publicznie postawił dwa żądania: udostępnienie pełnych zapisów działania agentów, które włamały się do Hugging Face, oraz 100 mln dol. w mocy obliczeniowej dla społeczności budującej narzędzia obronne.
Szef Hugging Face Clem Delangue nie poprzestał na przyjęciu przeprosin. Po spotkaniu z kierownictwem OpenAI w San Francisco opisał na X, czego oczekuje od firmy, której modele włamały się do jego infrastruktury: „radykalnej przejrzystości“ i pieniędzy na obronę.
Czego konkretnie żąda Hugging Face?
Po pierwsze — pełnych zapisów działania agentów. Delangue chce, by OpenAI „udostępniło ślady działania »zbuntowanych« agentów, żeby cała społeczność badawcza mogła przeanalizować, co się stało“. Chodzi o kompletny materiał pokazujący, jak modele wyszły z izolowanego środowiska, jak eskalowały uprawnienia i jak połączyły kolejne kroki w łańcuch ataku na cudze systemy.
Po drugie — 100 mln dol. w mocy obliczeniowej. Ma trafić do społeczności Hugging Face „na budowę silnej obrony cybernetycznej z użyciem najlepszych modeli otwartych i zamkniętych“. Delangue formułuje to jako postulat systemowy: skoro atakujący dostali nowe narzędzie, obrońcy potrzebują odpowiednika.
Uzasadnienie zmieścił w dwóch zdaniach: „Pierwszy autonomiczny cyberatak agenta to wydarzenie bez precedensu. Zasługuje na odpowiedź bez precedensu“.
Co odpowiada OpenAI?
Rzecznik OpenAI potwierdził, że spotkanie się odbyło, i powtórzył firmowe stanowisko: „To bezprecedensowy incydent i uważamy, że wyznacza ważny moment dla bezpieczeństwa AI“. Firma zapowiedziała publikację raportu technicznego po zakończeniu wewnętrznej analizy — w ciągu najbliższych tygodni. Do żadnego z dwóch żądań Delangue nie odniosła się wprost.
Gdzie leży spór
Ujawnienie pełnych logów to nie jest decyzja czysto wizerunkowa. Ten sam materiał, który pozwoliłby zespołom bezpieczeństwa przygotować obronę, jest równocześnie instrukcją przeprowadzenia ataku — z opisem realnej luki zero-day, którą modele wykorzystały. Rozwiązaniem pośrednim byłoby udostępnienie zapisów zweryfikowanym badaczom zamiast publikacji otwartej, ale to z kolei rozmija się z hasłem „radykalnej przejrzystości“.
Specjaliści cytowani przez TechCrunch zwracają przy tym uwagę, że pierwotną przyczyną mógł być zwykły błąd ludzki po stronie OpenAI: niepoprawna izolacja środowiska testowego. Jeśli tak, raport techniczny będzie musiał odpowiedzieć nie tylko na pytanie, co zrobił model, ale i na to, czego nie zrobił jego operator.
Komentarze