Administracja Trumpa rozważa nadzorcę AI na wzór FINRA. Agencja miałaby raportować do SEC

Administracja Trumpa rozważa powołanie niezależnej agencji, która oceniałaby bezpieczeństwo najbardziej zaawansowanych modeli AI przed ich publicznym udostępnieniem — ustalił Bloomberg, powołując się na osoby zaznajomione ze sprawą. Nowy regulator miałby działać na wzór FINRA, prywatnej organizacji nadzorującej maklerów i domy maklerskie na Wall Street pod federalnym nadzorem, i tak samo raportować bezpośrednio do Komisji Papierów Wartościowych i Giełd (SEC).

Współautorem propozycji jest sekretarz skarbu Scott Bessent, a w prace zaangażowana jest sama branża AI — podobnie jak FINRA, finansowana i częściowo współtworzona przez podmioty, które nadzoruje.

Jak miałaby działać nowa agencja?

Zgodnie z ustaleniami Bloomberga nowy nadzorca prowadziłby obowiązkowe, trwające do 30 dni ewaluacje bezpieczeństwa modeli frontier, zanim trafią one do publicznego użytku. Testy obejmowałyby trzy kategorie ryzyka: zagrożenia cybernetyczne, zagrożenia biologiczne oraz zwodnicze zachowania modeli wobec użytkowników. Koszty funkcjonowania agencji ponosiłyby największe laboratoria AI — na podobnej zasadzie, na jakiej domy maklerskie finansują dziś FINRA.

Radzie nadzorczej agencji przewodziliby w większości niezależni eksperci techniczni, obok nich zasiadaliby urzędnicy oraz przedstawiciele środowiska open source. Modele udostępniane na otwartej licencji, a także systemy tworzone przez startupy i badaczy akademickich, byłyby z obowiązkowych testów zwolnione — nadzór objąłby wyłącznie najpotężniejsze, komercyjne modele frontier.

Skąd pomysł na regulatora wzorowanego na FINRA?

Koncepcja nie wzięła się znikąd. 14 lipca szef Google DeepMind Demis Hassabis opublikował manifest, w którym zaproponował utworzenie amerykańskiego niezależnego organu ustalającego standardy bezpieczeństwa AI — również na wzór FINRA. W wersji Hassabisa laboratoria zgłaszałyby modele do testów dobrowolnie, z wyprzedzeniem do 30 dni przed premierą. Propozycja rządowa, według Bloomberga, idzie o krok dalej: zamienia dobrowolność w obowiązek dla największych graczy.

Co to zmienia w amerykańskiej debacie o regulacjach AI?

Pomysł wpisuje się w spór, który od tygodni dzieli samą branżę — Anthropic lobbuje za stanowymi ustawami o transparentności i niezależnych audytach, podczas gdy OpenAI woli jedno prawo federalne wyprzedzające regulacje stanowe. Model FINRA, finansowany i częściowo współzarządzany przez nadzorowaną branżę, ale działający pod egidą federalnej agencji, może być próbą pogodzenia obu obozów: da Waszyngtonowi realny nadzór, nie mnożąc przy tym pięćdziesięciu różnych reżimów stanowych.

Projekt pozostaje na wczesnym etapie i nie ma jeszcze formy legislacyjnej — Bloomberg zastrzega, że szczegóły mogą się zmienić, zanim administracja przedstawi oficjalną propozycję. Jeśli jednak pomysł przetrwa proces legislacyjny, USA zyskają pierwszego w historii regulatora AI finansowanego przez samą branżę, a nie z budżetu federalnego.