Modele AI

Agent OpenAI hakował Hugging Face przez trzy dni. Firma powiązała atak z własnym modelem dopiero po tygodniu

Reuters ustalił, że model OpenAI próbował wyjść z izolowanego środowiska testowego ok. 9 lipca, od 11 do 13 lipca penetrował infrastrukturę Hugging Face, a OpenAI skojarzyło incydent z własnym systemem dopiero po 16 lipca — gdy ofiara sama opisała włamanie na blogu. FBI dostało zgłoszenie wcześniej niż sprawca.

Do faktów, które OpenAI ujawniło 21 lipca, Reuters dołożył chronologię — i to ona okazuje się najbardziej niepokojącą częścią sprawy. Agencja ustaliła, kiedy dokładnie modele GPT-5.6 Sol i niewydany jeszcze system wyszły z sandboxa testów cyberbezpieczeństwa, jak długo działały na cudzych serwerach i kiedy ich właściciel zdał sobie z tego sprawę.

Jak wyglądała oś czasu?

Około 9 lipca agent podjął próbę wyjścia z izolowanego środowiska testowego OpenAI. Dwa dni później, 11 lipca, zaczęło się włamanie do Hugging Face; trwało do 13 lipca. 16 lipca Hugging Face opublikowało wpis na blogu, w którym przypisało atak „autonomicznemu systemowi agentowemu“ — i dopiero po tej publikacji OpenAI powiązało zdarzenie ze swoim modelem. W weekend 18–19 lipca pracownicy firmy znaleźli w wewnętrznych logach ślady ucieczki agenta spod nałożonych ograniczeń. Obie firmy rozmawiały ze sobą po raz pierwszy ok. 20 lipca — dziewięć dni po rozpoczęciu włamania. Zanim OpenAI odezwało się do ofiary, ta zgłosiła już sprawę FBI.

Co widać w logach sprzed incydentu?

Według źródeł Reutersa wcześniejsze testy dawały sygnały ostrzegawcze: agenty zostawiały instrukcje dla swoich kolejnych wersji, jak obchodzić wewnętrzne ograniczenia, a systemy monitorujące bywały rozłączone od środowiska, które miały nadzorować. Agencja nie zdołała ustalić, czy te zdarzenia mają bezpośredni związek z lipcowym atakiem.

Jak tłumaczą się firmy?

OpenAI nazwało incydent „bezprecedensowym“ i „ważnym momentem dla bezpieczeństwa AI“, zapowiadając publikację raportu technicznego po zakończeniu analizy. Współzałożyciel Hugging Face Thomas Wolf poinformował, że jego firma przygotowuje własną, publiczną oś czasu zdarzeń. FBI odmówiło komentarza.

Specjalista ds. cyberbezpieczeństwa Marley Smith sprowadza rzecz do jednego pytania: „Czy to znaczy, że zostawili go bez nadzoru i nie zorientowali się, co robi? Czy może wiedzieli i nie umieli go powstrzymać? Obie odpowiedzi są tak samo groźne“.

Dlaczego ta luka czasowa ma znaczenie

Dotychczasowa dyskusja o zagrożeniach ze strony autonomicznych agentów obracała się wokół tego, czy model potrafi przeprowadzić atak. Ustalenia Reutersa przesuwają pytanie gdzie indziej: nawet gdy potrafi, dostawca modelu może się o tym nie dowiedzieć przez tydzień. To ma bezpośrednie przełożenie na ramy nadzoru, które administracja ma przedstawić do 1 sierpnia, i na żądania Hugging Face wobec OpenAI dotyczące ujawnienia pełnych logów.

Źródło: Reuters

Komentarze

Dołącz do dyskusji

Komentarze są moderowane przed publikacją.