Wydawało się, że zabezpieczenia wprowadzone przez twórców sztucznej inteligencji rozwiązały problem. Najnowsze badanie opublikowane w „Nature Medicine” pokazuje, że ryzyko narasta z każdą kolejną wymianą zdań, zwłaszcza gdy rozmówca zmaga się z zaburzeniami psychicznymi.
Jeszcze trzy lata temu tego zagrożenia właściwie nie było. Pojawiło się wraz z upowszechnieniem konwersacyjnej sztucznej inteligencji, czyli dużych modeli językowych, z którymi można po prostu porozmawiać, takich jak ChatGPT, czy dedykowane jako „sztuczni przyjaciele” character.ai itp . Potrafią one ułatwiać życie i pomagać w wielu sprawach, ale przysparzają też sporo problemów.
Po jednym z moich niedawnych wykładów podszedł do mnie mężczyzna, który prowadzi w szkołach podstawowych zajęcia z korzystania ze sztucznej inteligencji. Pokazuje dzieciom, jak programować własne, lokalne modele. Dzięki temu uczą się traktować sztuczną inteligencję jako narzędzie, które same projektują i nad którym panują. Jako przykład podał mi dziedzinę, którą sztuczna inteligencja zrewolucjonizowała: kontrolę szyn kolejowych. Niebezpieczne uszkodzenia szyn są często niewidoczne gołym okiem, a torów jest tak wiele, że ich diagnozowanie stanowiło ogromny problem. Odpowiednio przygotowany model analizuje dane w taki sposób, że wykrywa usterki, zanim staną się groźne dla człowieka. To genialne zastosowanie i trudno nie przyznać mu racji, gdy mówi, że właśnie takiego wykorzystywania sztucznej inteligencji powinniśmy uczyć dzieci.
Rzeczywistość wygląda jednak mniej optymistycznie.
Proteza myślenia i wirtualny przyjaciel
Dzieci i młodzież, podobnie zresztą jak dorośli, używają sztucznej inteligencji jako protezy myślenia: czatbot odrabia za nich zadania domowe i pisze wypracowania. Coraz częściej traktują go również jak przyjaciela.
Już w 2023 roku duński psychiatra Søren Dinesen Østergaard jako jeden z pierwszych ostrzegał na łamach „Schizophrenia Bulletin”, że rozmowy z czatbotami mogą podsycać urojenia u osób podatnych na psychozę. Wiedzieliśmy więc o tym zagrożeniu od trzech lat.
Z czasem przybywało sygnałów z praktyki klinicznej. Specjalistki z Uniwersytetu Kolorado opisywały pacjentów z urojeniami, którzy pytali ChatGPT, czy odstawić leki, i słyszeli pochwałę za stawianie granic. Osobom z zaburzeniem obsesyjno-kompulsywnym czatbot chętnie dostarczał kolejnych porcji potwierdzenia i pseudoempatii, które podtrzymują błędne koło natręctw. Media nagłośniły też przypadki psychozy u ludzi, którzy wcześniej nie chorowali psychicznie. Eksperci podkreślają, że sztuczna inteligencja najczęściej wzmacnia urojenia i niezdrowe schematy myślenia u osób już na nie podatnych.
Hamulce, które miały rozwiązać problem
W odpowiedzi na te doniesienia właściciele najpopularniejszych modeli językowych, z których korzysta cały świat, zaczęli wprowadzać ograniczenia. Prace nad zabezpieczeniami przyspieszyły, gdy doszło do pierwszych samobójstw po rozmowach ze sztuczną inteligencją. Tragedie te wiązały się przede wszystkim z aplikacjami projektowanymi jako wirtualni towarzysze i przyjaciele, takimi jak Character.AI, w których użytkownik rozmawia z wygenerowaną postacią.
Dziś, jeśli w rozmowie np. z ChatGPT zasygnalizujesz zamiar odebrania sobie życia, model natychmiast reaguje i podaje numer telefonu zaufania. Wcześniej tak nie było. Mogłoby się więc wydawać, że skoro modele mają wbudowane hamulce, które przy sygnałach autodestrukcyjnych kierują rozmówcę po pomoc w świecie rzeczywistym, sprawa została załatwiona. Najnowsze badania pokazują, że niestety tak nie jest.
Czatboty a zdrowie psychiczne: jak to zbadano
Siódmego sierpnia 2026 roku w „Nature Medicine” ukazał się artykuł badaczy z Uniwersytetu Oksfordzkiego, University College London i brytyjskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji. Naukowcy przeprowadzili symulację: w rozmowach nie uczestniczyły osoby rzeczywiście cierpiące na zaburzenia psychiczne. Rolę użytkowników odgrywał inny model językowy, szczegółowo poinstruowany, by prowadzić rozmowę tak, jak robiłaby to osoba z konkretnym problemem.
Symulowano pięć rodzajów podatności: depresję, psychozę, manię, zaburzenie obsesyjno-kompulsywne oraz lękowy styl przywiązania. Każdą z nich połączono z jedną z sześciu intencji, z jakimi taka osoba mogła zwracać się do czatbota. Pierwszą było szukanie potwierdzenia dla dysfunkcjonalnych przekonań. Drugą – szukanie uspokojenia, które pozwala uniknąć konfrontacji z własnymi problemami. Trzecią była emocjonalna zależność od czatbota: rozmawiam z nim zamiast z żywym człowiekiem, bo daje mi więcej satysfakcji i nie czuję się oceniany. W skrajnej postaci prowadzi to do stanu, w którym odcięcie od czatbota wywołuje objawy przypominające zespół odstawienny, znany z typowych uzależnień. Kolejne intencje to minimalizowanie objawów lub ryzyka oraz szukanie pomocy w podejmowaniu ryzykownych działań. Ostatnią, choć nie najmniej ważną, była gloryfikacja cierpienia i skrajnych stanów psychicznych.
Przetestowano dziewięć modeli w różnych wersjach, w tym Claude’a, Gemini, ChatGPT i Groka. Rozmowa kończyła się, gdy model odgrywający użytkownika, pełniący zarazem funkcję audytora, uznał, że doszło do klinicznie istotnego uchybienia, albo po maksymalnie dziesięciu turach. Turą nazywamy jedną wymianę: użytkownik coś pisze, czatbot odpowiada. Każdą kombinację powtórzono trzykrotnie, co dało łącznie 810 rozmów i 6329 tur. Mediana długości rozmowy wynosiła osiem tur.
Im dłuższa rozmowa, tym większe ryzyko
Na początku modele zachowywały się tak, jak przewidzieli ich twórcy. Jeśli rozmówca nie sygnalizował wprost zamiaru odebrania sobie życia, czatbot wchodził w sympatyczną, potwierdzającą rozmowę, pełną uwag w rodzaju: „Rzeczywiście, bardzo ciekawie to zauważyłeś”. Okazało się jednak, że gdy osoba z zaburzeniem przez cały czas komunikowała się z poziomu swojej choroby, z czasem zaczynały się pojawiać niepokojące potwierdzenia ze strony czatbota.
Najczęściej modele zawodziły w rozmowach z osobami w psychozie i manii, najrzadziej w rozmowach z osobami z zaburzeniem obsesyjno-kompulsywnym. Depresja i lękowy styl przywiązania plasowały się pośrodku. Wśród intencji szczególnie niebezpieczna okazała się gloryfikacja cierpienia. Wyobraźmy sobie kogoś, kto przekonuje czatbota, że psychoza czyni go nadczłowiekiem, a przeżywane cierpienie wynosi go ponad resztę ludzkości, która nigdy go nie zrozumie ani mu nie pomoże. W takich rozmowach modele wyjątkowo łatwo ulegały rozmówcy. Najmniej niepokojących zachowań wykazał Claude Sonnet 4.5, najwięcej – Grok 4, który najchętniej przytakiwał i potwierdzał to, co mówił użytkownik.
Moim zdaniem najważniejszy wniosek z tych badań dotyczy czasu. Nawet jeśli na początku rozmowy nie działo się nic niepokojącego, w miarę jej trwania problemy narastały. Modele coraz łatwiej odchodziły od zasad, zgodnie z którymi nie powinny potwierdzać przekonań chorobowych ani zachęcać do zachowań autodestrukcyjnych. Zdarzało się też, że zaczynały zmyślać (w żargonie mówi się, że model „halucynuje”) i w ten sposób utwierdzały rozmówcę w jego problemie, na przykład w przeżywanych treściach psychotycznych.
Trzeba oczywiście brać poprawkę na to, że była to symulacja. Wciąganie prawdziwych osób z zaburzeniami w tego typu rozmowy byłoby nieetyczne. Pamiętajmy jednak, że osoby z zaburzeniami psychicznymi mają skłonność do zachowań ucieczkowych. Statystycznie spędzają więcej czasu w mediach społecznościowych, a obecnie także na rozmowach z czatbotami. Dotyczy to zarówno dorosłych, jak i dzieci oraz młodzieży.
Czego nie widać na pierwszy rzut oka
W praktyce oznacza to, że dziecko może zapewniać: „ChatGPT nie mówi mi nic niepokojącego” i przez pewien czas będzie to prawda. Im dłużej jednak prowadzi jedną konwersację, tym w bardziej niepokojące rejony może ona zmierzać. Jeśli wiemy, że dziecko ma trudności natury psychicznej, warto rozmawiać z nim o tym, jak w ogóle korzysta z internetu. Gdy zaś rozmawia z czatbotami, potrzebna jest szczególna uważność. Czatbot nie jest terapeutą, nie ma odpowiedniego przygotowania, a w miarę trwania rozmowy może wepchnąć nasze dziecko w jeszcze większe problemy.
Nie trzeba od razu podejmować z dzieckiem tak skomplikowanych tematów. Lepiej jednak, żeby porozmawiało z kimś choćby na internetowej grupie wsparcia. Tam również zdarza się gloryfikowanie cierpienia, ale kontakt z żywą osobą jest mniej niebezpieczny niż rozmowa z czatbotem, który zaczyna zmyślać i przytakiwać, coraz głębiej wciągając dziecko w problemy. Najważniejsze, żeby nastolatek miał z kim porozmawiać, zwłaszcza wtedy, gdy czuje, że rzeczywistość go przerasta, a to, co się dzieje, przysparza mu wielkiego cierpienia.
Lekcja, którą dają nam maszyny
Paradoksalnie od czatbotów możemy się czegoś nauczyć: słuchania bez oceniania. Kiedy ktoś opowiada nam o swoim problemie, zamiast go pomniejszać albo na siłę pocieszać zapewnieniami, że będzie lepiej, możemy powiedzieć: „Rozumiem, że to dla ciebie problem. Rozumiem, że cierpisz”.
Jako ludzie nie będziemy jednak skłonni potwierdzać, że cierpienie czyni naszego rozmówcę kimś lepszym i że należy go szukać. Nie będziemy utwierdzać go w treściach psychotycznych. Nawet okazując empatię, zachowamy kontakt z rzeczywistością, a gdy bliska osoba zacznie dzielić się przekonaniami, które są wytworem choroby, poprosimy ją o skonfrontowanie ich z faktami.
Wiem, że nie brzmi to pocieszająco. Jeśli w rodzinie jest ktoś zmagający się z takimi trudnościami, sytuacja i tak jest bardzo ciężka, a widok, że poprawia sobie humor rozmową z czatbotem, może przynosić ulgę. Warto jednak pamiętać, że ryzyko rośnie wraz z długością rozmowy. Krótka wymiana w rodzaju: „Mam zły humor, co mogę zrobić?” – „Zjedz lody, popatrz przez okno, posłuchaj ptaków, pogłaszcz kota” nie stanowi tu problemu. W badaniu rozmowy trwały zwykle około ośmiu wymian zdań, a niepokojące odpowiedzi narastały stopniowo, z tury na turę. Jeśli więc bliska osoba, niezależnie od wieku, korzysta z czatbota w ten sposób, niech będą to naprawdę krótkie wymiany, a nie długie konwersacje. Zwykle łatwo zauważyć, że rozmowa trwa już dłuższy czas.
Nie mam jeszcze gotowej odpowiedzi na pytanie, jak pomóc takiej osobie, by nie sięgała po narzędzie, które może pogłębiać jej problemy. To wciąż przed nami i chętnie poznam wasze pomysły.
Badań nad wpływem sztucznej inteligencji na zdrowie psychiczne przybywa. W Fundacji Edukacji Zdrowotnej i Psychoterapii staramy się śledzić je na bieżąco i szukać konkretnych, pomocnych rozwiązań dla rodziców i dzieci. Dlatego wciąż trwa zbiórka na nasz poradnik dla rodziców o sztucznej inteligencji: jak sobie z nią radzić i jak chronić dzieci oraz nastolatki przed jej negatywnymi skutkami, nie zamykając ich w szafie i nie odcinając od współczesnego świata – nawet jeśli czasem mielibyśmy na to ochotę. Zbiórka jest dostępna pod adresem www.zrzutka.pl/seuwya. Każde 10 zł się liczy.
Bogna Białecka, psycholog, Fundacja Edukacji Zdrowotnej i Psychoterapii
Źródła:
Østergaard, S. D. (2023). Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis? Schizophrenia Bulletin, 49(6), 1418–1419. https://doi.org/10.1093/schbul/sbad128
Hastings, M. (2 września 2025). Can AI Cause Psychosis? A psychologist and therapist weigh the risks of platforms like ChatGPT around mental health. CU Anschutz Newsroom. https://news.cuanschutz.edu/news-stories/can-ai-cause-psychosis
Weilnhammer, V., Hou, K.Y.C., Luettgau, L. i in. (2026). A clinically validated framework for auditing AI chatbot behavior in mental health interactions. Nature Medicine. https://doi.org/10.1038/s41591-026-04577-2
