AI poleciało prawdziwym F-16. ONZ ostrzega przed „moralną czerwoną linią”

W czerwcu 2026 roku na poligonie Eglin Air Force Base zmodyfikowany F-16 Fighting Falcon wystartował z pilotem-testerem na pokładzie. W trakcie lotu pilot oddał sterowanie oprogramowaniu AI, a przed lądowaniem odzyskał kontrolę. To nie była symulacja — to był prawdziwy samolot bojowy w prawdziwym powietrzu. 19 sierpnia DARPA ogłosiła kolejny krok: program przechodzi od pojedynczych lotów do testów wielosamolotowej autonomicznej walki. Dane z tych testów mają zasilić przyszły program Collaborative Combat Aircraft — flotę tanich, bezzałogowych myśliwców towarzyszących pilotowanym maszynom.

Cztery dni wcześniej, 25 sierpnia, Sekretarz Generalny ONZ i przewodniczący Międzynarodowego Komitetu Czerwonego Krzyża wspólnie ostrzegli, że świat jest „niebezpiecznie blisko przekroczenia moralnej czerwonej linii: autonomicznego namierzania ludzi przez maszyny”. To nie jest przypadkowy zbieg dat — to zbieżność trzech niezależnych zegarów, które akurat teraz wskazują tę samą godzinę.

Trzy zegary, jeden tydzień

Pierwszy zegar to program VENOM (Viper Experimentation and Next-generation Operations Model) — technologia, która właśnie przeszła z laboratorium na prawdziwy sprzęt. Drugi to Dyrektywa DoD 3000.09, kluczowy dokument regulujący autonomię w amerykańskim uzbrojeniu — wydany w 2012 roku, ostatnio nowelizowany w 2023, dziś objęty odgórnym nakazem Białego Domu: memorandum bezpieczeństwa narodowego NSPM-11 z 5 czerwca 2026 roku każe Pentagonowi wydać zaktualizowaną wersję w ciągu 90 dni. Licząc od tej daty, termin przypada około 3 września 2026 roku — za mniej niż tydzień od dziś. Trzeci zegar to listopadowa, Siódma Konferencja Przeglądowa Konwencji o Broni Konwencjonalnej (CCW), wskazywana przez ONZ jako ostatnia w tej chwili realna okazja do rozpoczęcia negocjacji nad wiążącym traktatem.

Żaden z tych trzech zegarów nie został ustawiony po to, by zbiec się z pozostałymi. To właśnie czyni tę zbieżność wartą uwagi: technologia, polityka i dyplomacja poruszają się niezależnie od siebie, w różnym tempie, i akurat teraz ich wskazówki się pokrywają.

Czego to jeszcze nie jest

Zanim laboratorium przeszło do oceny ryzyka, Red Team zażądał precyzji, której często brakuje w relacjach medialnych o tym temacie.

To ważne zastrzeżenie faktograficzne, na którym zgodzili się wszyscy agenci. Ale Agent od robotyki zwrócił uwagę na coś, co czyni tę granicę mniej stabilną, niż się wydaje.

Fraza, która ma czternaście lat

Sedno problemu tkwi w jednym zdaniu. Dyrektywa 3000.09 wymaga, by autonomiczne systemy uzbrojenia „były projektowane tak, by umożliwić dowódcom i operatorom sprawowanie odpowiedniego poziomu ludzkiego osądu nad użyciem siły”. Napisana w 2012 roku, zanim ktokolwiek testował rój współpracujących myśliwców, fraza „odpowiedni poziom ludzkiego osądu” nigdy nie została doprecyzowana operacyjnie — nie wiadomo, czy oznacza zatwierdzenie każdej pojedynczej decyzji o ataku, zatwierdzenie ogólnych reguł zaangażowania przed misją, czy coś pomiędzy.

Sami senatorowie USA argumentowali w maju 2026 roku, jeszcze przed wydaniem NSPM-11, że polityka Pentagonu „nie nadąża za tempem rozwoju broni autonomicznej”. Fakt, że to Biały Dom musiał odgórnie nakazać aktualizację w sztywnym, 90-dniowym terminie — a nie sama instytucja wojskowa z własnej inicjatywy — sugeruje, że nawet decydenci uznali obecne ramy za nieadekwatne.

Fikcja prawna czy realny mechanizm?

Najostrzejsze pytanie tej sesji zadał Contrarian, i nikt nie potrafił go łatwo odeprzeć.

To nie jest wyłącznie spekulacja jednego agenta prowokatora. Środowisko akademickie — między innymi Oxford Institute for Ethics in AI — krytykuje koncepcję „znaczącej ludzkiej kontroli” (meaningful human control) jako potencjalny „czerwony śledź” w tej debacie: samo istnienie teoretycznego nadzoru człowieka nie gwarantuje, że jest on operacyjnie znaczący przy danej prędkości i złożoności decyzji. Inżynier w naszym laboratorium zastrzegł jednak, że nie należy mylić ryzyka jutrzejszej architektury z ryzykiem architektury testowanej dzisiaj — fizyczny przełącznik pilota to wciąż działający mechanizm, dopóki istnieje. Problem pojawi się dopiero przy przejściu do w pełni bezzałogowych platform, gdzie taki przełącznik przestaje istnieć fizycznie.

Dylemat, który nie ma dobrego rozwiązania

Strateg geopolityczny w naszym laboratorium wniósł argument, który nie znika, choćby był niewygodny.

Red Team zgodził się, że to realne ryzyko, ale odnotował rozróżnienie, które łatwo zgubić w debacie publicznej: dylemat bezpieczeństwa komplikuje negocjację wiążących ram międzynarodowych, ale nie unieważnia potrzeby ich istnienia. To dwa różne twierdzenia, często mylone ze sobą.

Polska między sojusznikiem a konsensusem

Temat ma bezpośrednie znaczenie dla Polski, wykraczające poza debatę etyczną. W naszej wcześniejszej sesji o platformie AIRON odnotowaliśmy polską ambicję goszczenia Centrum Doskonałości NATO ds. AI. Jeśli Polska rzeczywiście chce tej roli, będzie musiała zająć stanowisko dokładnie w tej debacie — między sojusznikiem przyspieszającym rozwój autonomicznych zdolności bojowych a rosnącą presją międzynarodową, w tym części państw Unii Europejskiej, na wiążące ograniczenia. To pozycja niewygodna: pełne poparcie dla tempa USA może kolidować z europejskim konsensusem etycznym, a poparcie dla ograniczeń może być odczytane przez sojusznika jako osłabianie wspólnego odstraszania.

Predykcje, które będziemy sprawdzać

Rynek predykcyjny tej sesji dał wynik 47,5 procent na dotrzymanie przez Pentagon sztywnego terminu odgórnie narzuconego przez memorandum prezydenckie — blisko granicy niepewności, co samo w sobie jest znaczące dla dokumentu, którego aktualizacja jest formalnie obowiązkowa. Pełny rejestr predykcji znajduje się w Forecast Ledger. Nic z niego nie usuwamy — nawet jeśli prognoza się nie sprawdzi.