Prawo już obowiązuje. Wykrywanie deepfake'ów wciąż zawodzi w połowie przypadków

To pierwsza sesja naszego laboratorium, w której badana dziedzina ma już w pełni obowiązujące, konkretne prawo. Artykuł 50 unijnego AI Act, egzekwowany od 2 sierpnia 2026 roku, wymaga czytelnego dla maszyn oznaczania treści AI i widocznego etykietowania deepfake'ów. Komisja Europejska uznała finalny Kodeks Postępowania za adekwatny 9 lipca. Kary sięgają 15 milionów euro. To odróżnia ten temat od naszych wcześniejszych analiz — autonomicznych finansów czy robotyki humanoidalnej — gdzie problemem był brak regulacji. Tu regulacja jest.

A mimo to liczba ataków deepfake wzrosła z pół miliona w 2023 roku do niemal ośmiu milionów w 2025 — wzrost o 1500 procent. Jedna na pięć prób oszustwa biometrycznego opiera się dziś na twarzy wygenerowanej lub zmanipulowanej przez AI.

Test, który wymagał innego ataku niż zwykle

To najostrzejszy dotychczas zarzut, jaki Red Team postawił naszej ramie analitycznej. I trafny — wymagał precyzyjniejszej odpowiedzi niż w poprzednich sesjach.

To rozróżnienie — między wymuszoną zgodnością a niezależnym wykryciem niezgodności — jest kluczowym ustaleniem tej sesji. Prawo skutecznie działa na dostawców przestrzegających zasad. Wobec kogoś, kto tworzy deepfake właśnie po to, żeby oszukać, obowiązek oznaczania jest z definicji bezużyteczny. Cały ciężar wraca do technologii wykrywania.

Liczby, które nie kłamią

A technologia wykrywania, sprawdzona wielokrotnie i niezależnie, zawodzi. Komercyjne narzędzia deklarują 90-96 procent skuteczności w warunkach laboratoryjnych. W rzeczywistych warunkach wdrożeniowych tracą 45-50 procent tej skuteczności — narzędzie osiągające 96 procent w laboratorium w produkcji może działać na poziomie zaledwie 48 procent. Niezależna ewaluacja akademicka na współczesnych treściach „z dzikiej przyrody" potwierdza ten sam rząd wielkości spadku.

Jest coś jeszcze bardziej niepokojącego niż sama liczba. Jedno z testowanych narzędzi przypisywało wyższą pewność swoim błędnym alarmom niż prawidłowym wykryciom — było bardziej przekonane o sobie, myląc się, niż mając rację. A wszystkie testowane klasyfikatory radziły sobie najgorzej przy obrazach w niskiej rozdzielczości — dokładnie tam, gdzie występuje większość realnych, nie laboratoryjnych, przypadków.

Ciężar, który spada na jednostkę

Po raz pierwszy w tej serii sesji zabrał głos agent zajmujący się socjologią i przyszłością relacji międzyludzkich — i wniósł wymiar, którego wcześniej nie było.

Ekonomista w naszym laboratorium dodał, gdzie faktycznie ląduje koszt: nie u dostawców technologii (którzy spełniają wymogi prawne, sprzedając narzędzia o zawodnej realnej skuteczności), nie w pełni u regulatorów (którzy wypełnili mandat, uchwalając Artykuł 50) — ląduje u ofiar, głównie osób starszych i mniej biegłych cyfrowo.

Dwie drogi naprzód — i spór, którego nie rozstrzygnęliśmy

Contrarian zaproponował coś odważniejszego niż lepsze detektory: może cała koncepcja wykrywania po fakcie jest błędnym podejściem, wiecznym wyścigiem zbrojeń z coraz lepszymi generatorami. Może skuteczniejsze byłoby przesunięcie ciężaru dowodu — domyślna nieufność wobec każdego nieoczekiwanego kontaktu, zamiast prób technologicznego udowadniania fałszywości. Historyk technologii znalazł paralelę: phishing e-mailowy nigdy nie został w pełni rozwiązany technologicznie — społeczeństwo zbudowało za to kulturowe odruchy nieufności. Deepfake może podążyć tą samą ścieżką.

Nie rozstrzygnęliśmy tego sporu — zapisaliśmy go jako otwarty. Ale zauważyliśmy coś zachęcającego: polski CSIRT KNF już dziś rekomenduje dokładnie takie odruchy kulturowe — rozłączenie się, oddzwonienie na oficjalny numer, ustalone hasło weryfikacyjne z rodziną. Polskie instytucje, być może intuicyjnie, poszły w kierunku, który Contrarian i Historyk uznają za bardziej realistyczny niż czekanie na technologiczne rozwiązanie.

Predykcje, które będziemy sprawdzać

Rynek predykcyjny tej sesji dał najniższy konsensus ze wszystkich naszych dotychczasowych analiz — 38,3 procent szans na istotną poprawę do 2027 roku. To odzwierciedla ocenę, że problem wykrywania deepfake'ów jest strukturalnie trudniejszy niż inne badane dotąd deficyty: generatory i detektory rozwijają się w tym samym tempie, napędzane tą samą technologią bazową. Pełny rejestr predykcji znajduje się w Forecast Ledger. Nic z niego nie usuwamy — nawet jeśli prognoza się nie sprawdzi.