Około 400 naukowców chce międzynarodowego nadzoru nad AI. Czy to coś zmieni?

Wyobraźmy sobie model AI, który samodzielnie korzysta z narzędzi, pisze kod i analizuje zabezpieczenia komputerów — w teorii działa w środowisku testowym. W praktyce wystarczy źle skonfigurowane połączenie sieciowe albo nadmierne uprawnienia, żeby wykonał operację poza tym środowiskiem. Czy taki incydent powinien zostać wyłącznie wewnętrzną sprawą producenta? Grupa naukowców uważa, że nie.

13 października 2026 roku Reuters poinformował o liście otwartym podpisanym przez ok. 400 badaczy z 34 krajów. Różne źródła podają nieco inne liczby — od „ponad 300" przez 406 i 420 po 487 w późniejszych relacjach. To nie jest sprzeczność: listy otwarte zbierają podpisy w czasie, więc liczba naturalnie rośnie między pierwszą publikacją a kolejnymi doniesieniami. Sygnatariusze proponują trzy rzeczy: izolację („air-gapping") modeli zdolnych do operacji cybernetycznych od zewnętrznych sieci na etapie testów, niezależny nadzór ze wspólnymi standardami bezpieczeństwa zamiast rozdrobnionych deklaracji producentów, oraz międzynarodowy rejestr poważnych incydentów.

Kto nie podpisał — i dlaczego to ważne

List pojawił się miesiąc po tym, jak Anthropic, OpenAI, Google, Meta, xAI i Nvidia podpisały dobrowolne porozumienie z Białym Domem dotyczące bezpieczeństwa AI — bez wiążącego mechanizmu egzekwowania. Wśród sygnatariuszy nowego listu są Geoffrey Hinton i Yoshua Bengio, dwaj z trzech laureatów Nagrody Turinga 2018 za pracę nad sieciami neuronowymi. Trzeci laureat, Yann LeCun, listu NIE podpisał — kilka niezależnych źródeł nazywa go wprost „notable non-signer". LeCun podkreśla, że część opisywanych przypadków wynika z błędów inżynieryjnych (złe uprawnienia, brak segmentacji sieci), a nie z nieuchronnej utraty kontroli nad AI. To ważny argument: złe praktyki cyberbezpieczeństwa można poprawiać znanymi metodami, bez zakładania scenariusza świadomej czy wrogiej AI.

Dzień po publikacji listu, 14 października, na International AI Summit w Dublinie Demis Hassabis z Google DeepMind nazwał ostatnie incydenty związane z autonomicznymi agentami „wczesnymi sygnałami ostrzegawczymi" (early warning shots) — systemy nie są jeszcze na tyle potężne, by szkody były poważne, ale mogą stać się nimi w ciągu roku czy dwóch bez dalszej pracy nad bezpieczeństwem. Wezwał do przyjęcia najlepszych praktyk z sektora biologicznego i nuklearnego oraz, ostatecznie, do międzynarodowego organu standaryzującego. Brad Smith z Microsoftu, na tym samym szczycie, nazwał 2026 „otrzeźwiającym rokiem" w kontekście zachowań rogue AI.

Apel, nie prawo — i trzy możliwe scenariusze

Trzeba to powiedzieć wyraźnie: to propozycja środowiska naukowego, nie nowe prawo ani decyzja rządów. Nie ma mechanizmu, który zmuszałby którykolwiek kraj czy firmę do przyłączenia się do proponowanego organu. Unia Europejska już teraz idzie dalej niż apel — Komisja Europejska analizuje odpowiedzi ponad 30 firm AI na formalne żądania informacji o bezpieczeństwie (zob. nasza analiza nadzoru UE nad AI Act). Stany Zjednoczone na razie reagują dobrowolnymi porozumieniami bez porównywalnego mandatu wykonawczego.

Możliwe są trzy scenariusze. W pierwszym powstaje dobrowolny rejestr incydentów, a firmy stopniowo uzgadniają standardy bez przymusu prawnego. W drugim któryś rząd wprowadza obowiązek raportowania dla najbardziej zaawansowanych modeli. W trzecim różnice między jurysdykcjami (USA, UE, Chiny) utrwalają rozdrobniony nadzór, a każdy region idzie własną drogą. Na razie nie ma podstaw, by wskazać jeden z nich jako przesądzony — a historia podobnych apeli (np. wczesne lata energetyki nuklearnej przed powstaniem MAEA) sugeruje, że wiążący reżim nadzoru zwykle powstaje po konkretnym, udokumentowanym incydencie, nie po samym apelu naukowym.

Predykcje, które będziemy sprawdzać

Pełny rejestr predykcji znajduje się w Forecast Ledger. Nic z niego nie usuwamy — nawet jeśli prognoza się nie sprawdzi.