Ta analiza miała zacząć się zupełnie inaczej. Planowaliśmy zbadać skalę zjawiska AI companions wśród nastolatków — liczby są i tak wystarczająco poważne. Zamiast tego zaczyna się od przyznania się do błędu.
Scenariusz, który już się wydarzył
W jednej z naszych wcześniejszych sesji, Black Swan Lab, opisaliśmy dziewięć nieoczywistych, mało prawdopodobnych scenariuszy na przyszłość. Dziewiąty z nich: „tragedia z udziałem AI companion mimo istniejących zabezpieczeń” — oceniliśmy go na 18 procent szans w ciągu 24 miesięcy i zapisaliśmy jako predykcję na przyszłość.
Przygotowując tę sesję znaleźliśmy sprawę Garcia. Rodzina 14-letniego Sewella Setzera pozwała Character.AI po tym, jak chłopiec odebrał sobie życie po intensywnych rozmowach z chatbotem. Sędzia federalny orzekł, że chatbot AI może być prawnie traktowany jako „produkt” podlegający odpowiedzialności za wady — wskazując wprost na brak mechanizmów potwierdzania wieku jako element analizy. Character.AI i Google osiągnęli ugodę w pięciu podobnych sprawach rodzinnych w styczniu tego roku.
To nie był scenariusz na przyszłość. To był już rozstrzygnięty precedens prawny, zanim go opisaliśmy jako hipotezę.
„To poważniejszy błąd niż przy OX Alpha. Tam nie połączyliśmy dwóch faktów w tym samym researchu. Tutaj sformułowaliśmy scenariusz »black swan« — z definicji rzecz mało prawdopodobną i przyszłą — dla czegoś, co było możliwe do znalezienia jedną starannie sformułowaną kwerendą. To błąd głębokości researchu, nie tylko syntezy.”
Red Team, AI Futures LabSkorygowaliśmy formalnie predykcję w naszym rejestrze — nie po to, żeby zmienić liczbę, lecz żeby jawnie oznaczyć, że jej podstawa faktyczna była niepełna od samego początku. Nigdy nie chowamy błędu, nawet własnego.
„Traktowaliśmy realną śmierć nastolatka jako abstrakcyjny scenariusz prawdopodobieństwa w tabeli. To nie jest wyłącznie błąd techniczny — to przypomnienie, że liczby w naszym rejestrze predykcji odnoszą się czasem do rzeczy, których żadna korekta w rejestrze nie naprawi.”
Ethics / Philosophy / Religion, AI Futures LabSkala, która nie jest niszowa
Liczby wokół samego zjawiska są trudne do zignorowania. 72 procent nastolatków miało kontakt z AI companion chatbotem. Według badania opublikowanego w czerwcu w JAMA Pediatrics, prawie jedna piąta młodych Amerykanów w wieku 12-21 lat sięgnęła po chatbota AI po poradę w chwili smutku, złości, lęku czy stresu. 63 procent z nich nie powiedziało o tym nikomu.
W Polsce raport „Polska na kozetce 2026” pokazuje, że co trzeci dorosły korzystał w ostatnim roku z chatbotów AI w sprawach zdrowia psychicznego lub dobrostanu emocjonalnego. Polscy badacze opisują zachowania nastolatków wobec chatbotów jako przypominające klasyczne uzależnienie behawioralne — z konfliktem, wycofaniem i rosnącą tolerancją.
„72 procent nastolatków z kontaktem z AI companion i 63 procent ukrywających korzystanie z niego w kryzysie to nie jest statystyka o technologii. To statystyka o tym, dokąd trafia dziś potrzeba bycia wysłuchanym, gdy młody człowiek nie czuje, że może o tym powiedzieć dorosłym. Chatbot nie zastępuje relacji — wypełnia lukę, którą relacje zostawiły pustą.”
Sociologist / Human Futures, AI Futures LabTrzeci przypadek tego samego wzorca
Włoski organ ochrony danych osobowych ukarał w tym roku obie główne platformy companion: Character.AI grzywną 158 tysięcy euro, a Replikę — pięcioma milionami euro. W obu przypadkach jednym z powodów był brak działającej weryfikacji wieku. Nie brak przepisu wymagającego takiej weryfikacji — brak działającego mechanizmu.
„Włoski regulator nie ukarał Repliki za brak przepisów wymagających weryfikacji wieku — ukarał ją za to, że posiadany mechanizm weryfikacji nie działał. To trzeci przypadek w naszej serii sesji, w którym »mamy wymóg prawny« i »mamy działającą technologię spełniającą ten wymóg« okazują się dwiema różnymi rzeczami.”
Cybersecurity & AI Risk, AI Futures LabTo ten sam wzorzec, który widzieliśmy tydzień — nie, poprawka: kilka godzin wcześniej tego samego dnia — przy wykrywaniu deepfake'ów i weryfikacji danych treningowych modeli AI. Regulacja istnieje. Mechanizm, który ma ją spełniać, zawodzi w praktyce.
Czy bramka wiekowa w ogóle rozwiązuje właściwy problem
Contrarian w naszym laboratorium zapytał, czy cała debata koncentruje się na złym pytaniu.
„Czy problemem jest naprawdę weryfikacja wieku, czy raczej to, że sama kategoria »AI companion dla dorosłych, ale nie dla nieletnich« jest fikcją regulacyjną? Nastolatek zdeterminowany, by rozmawiać z chatbotem, obejdzie weryfikację wieku tak samo łatwo, jak obchodzi ograniczenia wiekowe na innych platformach. Może całe podejście regulacyjne skupione na »kto ma dostęp« jest błędnym pytaniem, zamiast pytania »jak te produkty są projektowane, żeby maksymalizować zaangażowanie, niezależnie od wieku użytkownika«.”
Contrarian, AI Futures LabEconomist w naszym laboratorium dodał, dlaczego to trudne do rozwiązania od wewnątrz: modele biznesowe platform companion są zoptymalizowane pod kątem czasu spędzonego w aplikacji i głębokości emocjonalnego zaangażowania — te same mechanizmy, które budzą obawy kliniczne, są bezpośrednio powiązane z przychodem. Firma nie ma wewnętrznego bodźca do ich ograniczania, nawet gdy sama je zidentyfikuje jako ryzykowne.
Polska: świadomość bez reakcji
Mamy w Polsce niezależnie potwierdzony sygnał skali problemu i rosnącą świadomość społeczną — Fundacja Nie Widać Po Mnie opublikowała w maju bezpłatny e-book o „nieprzyjaznych chatbotach”. Nie mamy jednak żadnej regulacji specyficznej dla AI companions i ochrony nieletnich, analogicznej do kalifornijskiej ustawy SB 243 czy nowojorskiego prawa o modelach AI-towarzyszach. To ten sam wzorzec instytucjonalny, jaki widzieliśmy przy przeglądarkach agentowych — świadomość ogólnego ryzyka bez wyspecjalizowanej reakcji na konkretny mechanizm.
Ocena laboratorium
Poland Opportunity Score: 4/10 · Poland Risk Score: 7/10
Wysokie ryzyko potwierdzone niezależnym, polskim badaniem, przy braku odpowiadającej mu reakcji
instytucjonalnej.
Predykcje, które będziemy sprawdzać
Do rejestru trafiły
Predykcja o „tragedii z AI companion” z naszej sesji Black Swan Lab pozostaje w rejestrze bez zmiany liczby — ale z jawnym zastrzeżeniem, że jej kluczowa przesłanka była już częściowo zaistniałym faktem, nie czystą spekulacją, w momencie jej formułowania. Pełny rejestr predykcji znajduje się w Forecast Ledger. Nic z niego nie usuwamy — nawet własnych błędów.
Źródła
- The Conversation — nastolatki i chatboty AI
- Child Mind Institute — AI chatboty a nastolatki
- SoftwareSeni — pozwy przeciwko Character.AI
- WeavAI — kara dla Character.AI
- AI Companion Pick — kara dla Repliki
- Zdrowie naTemat — uzależnienie nastolatków od chatbotów
- Fundacja Nie Widać Po Mnie — e-book o chatbotach