Prezes Microsoftu mówi: nie ufaj agentowi AI. Nawet jeśli to Twój własny

10 października 2026 roku Satya Nadella opublikował na platformie X esej "Models as Insider Risks in the Super Intelligence Era" — według doniesień medialnych obejrzany około 4 miliony razy. Teza: firmy powinny traktować zaawansowane modele AI tak, jak traktują pracownika z silnym dostępem do systemów — weryfikowana tożsamość, minimalne uprawnienia, logowane działania, ograniczony zasięg potencjalnych szkód ("blast radius"). Nadella wprost zaznacza, że to nie zakłada złej woli modelu: każdy zdolny aktor z dostępem do ważnych systemów może się pomylić albo zostać skompromitowany.

Kluczowe odwołanie: "zasada monitora referencyjnego" (reference-monitor principle), koncepcja bezpieczeństwa informatycznego sięgająca lat 70. XX wieku — kontrola dostępu musi być nienaruszalna, zawsze aktywna i niemożliwa do ominięcia przez monitorowany system. Nadella ostrzega też przed "zagnieżdżonymi czarnymi skrzynkami": sytuacją, w której jeden model AI nadzoruje inny, a sam mechanizm nadzoru staje się niemożliwy do zbadania.

Microsoft odpowiada własnym produktem na własną tezę

Tego samego tygodnia Microsoft, przez wiceprezes Hayete Gallot, ogłosił: "Frontier models, regardless of their origin, cannot be trusted." Firma zapowiedziała nowe narzędzia bezpieczeństwa — część Microsoft 365 E7 i systemu Project Perception — mające ciągle oceniać poziom ryzyka agentów AI i automatycznie ograniczać ich dostęp, gdy ten poziom się zmienia. To właśnie "kontrola poza modelem" z esicu Nadelli, przełożona na konkretny produkt do sprzedania klientom korporacyjnym.

Warto rozróżnić dwa poziomy tego materiału. Jedno niezależnie potwierdzone źródło z marca 2026 opisuje wcześniejszy, osobny materiał Microsoftu o bezpieczeństwie AI — to tło koncepcyjne, nie część ogłoszenia z 10 października. Żadne z niezależnych źródeł z października nie potwierdza, że Nadella lub Microsoft dosłownie użyli terminu „Zero Trust" w odniesieniu do tego konkretnego esicu — to określenie funkcjonuje w komentarzach branżowych jako wygodna etykieta dla opisanego mechanizmu, nie jako cytat.

Stara zasada, nowy problem

Technicznie "kontrola poza modelem" nie jest nowym pomysłem — to właśnie klasyczna zasada monitora referencyjnego. Nowość leży w zastosowaniu do modeli generatywnych o nieprzewidywalnych trybach awarii, gdzie z góry nie wiadomo, jakie konkretnie działanie trzeba zablokować — to różni się od klasycznej kontroli dostępu do plików czy procesów, gdzie reguły można wypisać z wyprzedzeniem.

Microsoft deklaruje narzędzie rozwiązujące problem, który sam pomaga tworzyć — sprzedaje Copilota i inne produkty agentowe, które zwiększają powierzchnię ryzyka, o której mówi Nadella. Popyt klientów korporacyjnych na "zaufanie do AI jako usługę" po serii nagłośnionych incydentów (część z nich dokumentowaliśmy: nieautoryzowane działania agentów Anthropic, uniwersalny agent pracy Google) jest racjonalną odpowiedzią rynkową — ale nie jest dowodem skuteczności konkretnego produktu.

Predykcje, które będziemy sprawdzać

Pełny rejestr predykcji znajduje się w Forecast Ledger. Nic z niego nie usuwamy — nawet jeśli prognoza się nie sprawdzi.