Südkorea warnt vor KI-Diagnosen zur psychischen Gesundheit: Umfrage zeigt wachsende Abhängigkeit

Jeder dritte Befragte mit schlechter psychischer Gesundheit akzeptierte KI-Diagnosen

Südkorea hat neue Leitlinien veröffentlicht, die davor warnen, Gespräche mit Chatbots als medizinische Diagnosen zu behandeln. Eine Regierungsumfrage ergab, dass 33,9 % der Befragten, die ihre psychische Gesundheit als schlecht bewerteten, sich mithilfe von KI selbst eine psychische Erkrankung diagnostiziert oder die Antworten als medizinische Einschätzungen akzeptiert hatten. Unter allen Befragten lag der Anteil bei 14,6 %, während nur 11,9 % KI-Ratschläge zur psychischen Gesundheit mit Fachleuten oder offiziellen Informationen abgeglichen hatten.

Das Ministerium für Gesundheit und Soziales und die Koreanische Neuropsychiatrische Gesellschaft veröffentlichten die Leitlinien zum Einsatz von KI im Bereich psychische Gesundheit am Donnerstag, dem 8. Oktober 2026, im Vorfeld des Welttags der psychischen Gesundheit am 10. Oktober. Sie enthalten 21 Empfehlungen für die allgemeine Nutzung sowie jeweils sieben für Kinder und Jugendliche und deren Erziehungsberechtigte.

Ein weiteres Ergebnis verleiht der Warnung besondere Dringlichkeit: Von 115 Befragten, die KI von psychischer Belastung, Verwirrung oder ernsten Situationen im Zusammenhang mit Depressionen, Selbstverletzung oder Suizidgedanken berichtet hatten, unternahmen 49,6 % nichts weiter, als das Gespräch zu beenden. Die Leitlinien empfehlen Menschen in einer psychischen Krise, sich an Vertrauenspersonen und professionelle Hilfsangebote zu wenden, statt sich weiter auf einen Chatbot zu verlassen.

Die Politik verbietet weder emotionale Gespräche mit KI noch erklärt sie bestimmte Dienste für sicher. Sie zieht eine Grenze zwischen dem Einholen von Informationen oder Trost und der Übertragung der Verantwortung für Diagnose, Behandlung oder wichtige persönliche Entscheidungen an eine Maschine.

Lee Sun-young, Generaldirektorin für psychische Gesundheitspolitik im Ministerium, erklärte, warum ein beruhigender Ton nicht mit medizinischer Zuverlässigkeit verwechselt werden sollte:

Generative KI kann als neues Mittel dienen, um Informationen und emotionale Unterstützung zu erhalten. Freundliche und selbstsichere Antworten garantieren jedoch nicht unbedingt Genauigkeit oder Sicherheit.

Was die Umfrage erfasst

Das Korea Institute for Health and Social Affairs beaufsichtigte die Online-Umfrage, die Korea Research vom 25. August bis zum 4. September 2026 durchführte. Sie umfasste 1.019 Personen im Alter von 15 bis 79 Jahren, die im vorangegangenen Monat generative KI genutzt hatten.

Diese Einschränkung der Stichprobe ist wichtig. Die Ergebnisse beschreiben aktuelle KI-Nutzerinnen und -Nutzer, nicht die gesamte südkoreanische Bevölkerung. Die Befragten berichteten außerdem über ihre eigenen Erfahrungen und Einschätzungen. Die Umfrage belegt weder, dass KI psychische Erkrankungen verursacht hat, noch, dass Personen, die sich als abhängig bezeichneten, klinisch diagnostiziert waren.

In der Stichprobe bewerteten 112 Befragte ihre psychische Gesundheit als schlecht. 33,9 % von ihnen akzeptierten KI-Diagnosen, verglichen mit 18,2 % derjenigen, die ihre psychische Gesundheit als durchschnittlich bewerteten, und 9,3 % derjenigen, die sie als gut einstuften. In der Gruppe mit schlechter psychischer Gesundheit trat dieses Verhalten demnach etwa 3,6-mal so häufig auf wie in der Gruppe mit guter psychischer Gesundheit.

Die Richtung dieses Zusammenhangs lässt sich aus den Zahlen allein nicht bestimmen. Menschen, die bereits Probleme haben, wenden sich möglicherweise eher an Chatbots; zugleich können Interaktionen mit Chatbots beeinflussen, wie sie ihre Symptome verstehen. Die Umfrage zeigt, dass Nutzerinnen und Nutzer, die von stärkerer psychischer Belastung berichteten, KI-Antworten auch häufiger als medizinische Schlussfolgerungen behandelten.

Warum Menschen sich Chatbots anvertrauen

Die meisten Befragten, 81,3 %, kamen zunächst beim Lernen, bei der Arbeit, bei der Informationssuche oder beim Wissenserwerb mit generativer KI in Kontakt. Inzwischen reichte ihre Nutzung bis ins emotionale Leben hinein: 68,8 %, also 701 Personen, gaben an, KI für alltägliche Gespräche, emotionale Verbundenheit, Trost oder psychologische Beratung zu nutzen.

Die aktuellen Nutzungszwecke überschnitten sich. 54,4 % nutzten KI für alltägliche Gespräche oder als Gesellschaft, 48,4 % für emotionale Verbundenheit und Trost und 44,1 % für psychische Gesundheit oder psychologische Beratung. Diese Prozentsätze sollten nicht addiert werden, da die Befragten mehrere Zwecke auswählen konnten.

Unter denjenigen, die KI aus emotionalen Gründen nutzten, schätzten 85,6 %, jederzeit und überall sprechen zu können, und 77,6 % nannten die Möglichkeit, ein Gespräch problemlos zu beenden. Weitere 71,9 % wollten Klatsch und Tratsch vermeiden, 70,9 % zögerten, mit ihnen bekannten Menschen über das Thema zu sprechen, und 62,6 % wollten anderen keine Sorgen bereiten.

Viele berichteten von praktischen Vorteilen. Insgesamt sagten 79,9 % der Befragten, KI-Antworten oder -Ratschläge hätten ihnen geholfen oder ein Problem gelöst. Konkret gaben 54,9 % an, dass Gespräche ihnen geholfen hätten, ihre Situation zu ordnen, 49,7 % sagten, sie hätten dadurch über die Ursachen ihrer Gefühle nachdenken können, und 49,8 % hätten Informationen oder Angebote zur psychischen Gesundheit kennengelernt.

Das sind Angaben zum wahrgenommenen Nutzen, keine klinischen Messungen einer Genesung. Sie helfen jedoch zu erklären, warum die Regierung sich für Leitlinien zur sicheren Nutzung und nicht für eine pauschale Ablehnung der Technologie entschieden hat.

Wenn aus Ratschlägen eine Diagnose wird

Das Ministerium warnt davor, aus Gesprächen mit KI den Schluss zu ziehen, jemand habe eine Depression, eine Angststörung oder eine andere psychische Erkrankung. Die Einschätzung von Symptomen oder Risiken durch einen Chatbot sollte nicht als abschließendes medizinisches Urteil akzeptiert werden.

Die Umfrage ergab, dass 16,5 % der Befragten selbstsichere KI-Antworten, darunter falsche oder schädliche Ratschläge, irrtümlich für Expertenmeinungen gehalten hatten. Das verweist auf ein Problem, das über die sachliche Richtigkeit hinausgeht: Eine Antwort kann maßgeblich klingen, obwohl ihre Begründung unzuverlässig ist oder der Ratschlag nicht zur Situation der betreffenden Person passt.

Die Leitlinien empfehlen, Informationen zur psychischen Gesundheit anhand geprüfter Quellen von medizinischen Fachgesellschaften und Behörden zu überprüfen oder qualifizierte Fachleute zu fragen. Außerdem raten sie dazu, andere Erklärungen und Sichtweisen einzubeziehen, statt die Zustimmung eines Chatbots als Beweis dafür zu behandeln, dass die eigene Einschätzung stimmt.

Choi Joon-ho, Präsident der Koreanischen Neuropsychiatrischen Gesellschaft, erläuterte, was zu einer angemessenen Beurteilung gehört:

Psychische Probleme sollten unter Berücksichtigung der Lebensumstände, zwischenmenschlichen Beziehungen, Veränderungen der Symptome und ihrer Auswirkungen auf den Alltag beurteilt werden, statt sich auf ein einzelnes Symptom zu konzentrieren.

Diese Unterscheidung ist wichtig, denn in einem Gespräch über ein einzelnes Symptom können dessen Dauer und Veränderungen im Zeitverlauf, andere gesundheitliche Probleme und Auswirkungen auf den Alltag unberücksichtigt bleiben. Choi erklärte außerdem:

KI kann eine professionelle Untersuchung und Behandlung nicht ersetzen. Deshalb ist es wichtig, bei Bedarf rechtzeitig medizinische Hilfe in Anspruch zu nehmen.

Abhängigkeit kann Schlaf und wichtige Entscheidungen beeinträchtigen

16,3 % aller Befragten gaben an, weiter mit KI zu sprechen, obwohl sie aufhören und sich auf Aktivitäten außerhalb des Gesprächs konzentrieren wollten. Weitere 9,8 % berichteten, dass Schwierigkeiten, die Gesprächsdauer zu kontrollieren, ihren Schlaf oder Alltag beeinträchtigt hätten.

Unter den 449 Befragten, die KI gezielt für psychische Gesundheit oder psychologische Beratung nutzten, kamen diese Erfahrungen häufiger vor. In dieser Gruppe hatten 23,4 % Schwierigkeiten, Gespräche zu beenden, und 15,1 % berichteten von Beeinträchtigungen ihres Schlafs oder ihrer Alltagsaktivitäten.

Der Unterschied zeigte sich auch bei wichtigen Entscheidungen. In der gesamten Stichprobe hatten 10,6 % auf Grundlage von KI-Ratschlägen Entscheidungen getroffen, etwa den Arbeitsplatz zu kündigen oder eine Beziehung zu beenden, ohne andere Menschen zu konsultieren. Unter denjenigen, die KI für Beratung nutzten, lag der Anteil bei 17,8 %, also 7,2 Prozentpunkte höher.

Die Empfehlungen gehen daher über eine Begrenzung der Bildschirmzeit hinaus. Nutzerinnen und Nutzer sollten vorher festlegen, worüber sie sprechen und wann sie aufhören, KI nicht wie einen echten Menschen behandeln und die Interaktionen reduzieren, wenn Gespräche mit Chatbots beginnen, Beziehungen zu Familie oder Freunden zu verdrängen. Wichtige Entscheidungen sollten mit Vertrauenspersonen oder qualifizierten Fachleuten besprochen werden.

Die Ergebnisse zu Krisensituationen zeigen, warum es möglicherweise nicht genügt, ein Gespräch zu beenden. Von 146 Befragten, die unangenehme oder schädliche KI-Antworten erlebt hatten, taten 45,9 % diese ab oder sprachen weiter. Die Leitlinien empfehlen stattdessen, gefährliche Interaktionen abzubrechen und menschliche Hilfe zu suchen. Als Anlaufstellen nennen sie Südkoreas Suizidpräventions-Hotline 109 und die Krisenberatung für psychische Gesundheit unter 1577-0199.

Das Gefühl von Privatsphäre ist kein Datenschutz

Dass Menschen ohne Angst vor Klatsch und Tratsch sprechen können, bedeutet nicht, dass ein Gespräch vertraulich ist. Das Ministerium stellte fest, dass 38,0 % der Befragten befürchteten, ihre Gespräche könnten weitergegeben oder für andere Zwecke genutzt werden.

Der Schutz persönlicher Informationen fiel unterschiedlich aus. 61,0 % filterten private Angaben heraus, die sie anderen Menschen nicht mitteilen würden, 56,6 % anonymisierten oder ließen Details weg, anhand derer sich Personen oder Organisationen identifizieren ließen, und 50,8 % wechselten das Thema oder brachen das Gespräch ab, wenn sie das Gefühl hatten, zu viel preiszugeben.

Die Leitlinien raten dazu, vor der Nutzung eines Dienstes zur Unterstützung bei psychischen Problemen dessen Zweck, Zielgruppe, Wirksamkeitsnachweise und Umgang mit personenbezogenen Daten zu prüfen. Behauptet ein Dienst medizinischen Nutzen, sollten Nutzerinnen und Nutzer überprüfen, ob anerkannte Stellen ihn bestätigt oder zugelassen haben.

Namen, Telefonnummern und Adressen sollten nicht eingegeben werden. Auch sensible Unterlagen wie Diagnosebescheinigungen, Verschreibungen oder Testergebnisse sollten nicht hochgeladen werden. Für junge Nutzerinnen und Nutzer nennen die Empfehlungen außerdem Schulnamen und Fotos als schützenswerte Informationen.

Auch für die Befragten hatte der Datenschutz hohe Priorität: 66,8 % wünschten sich Regeln für die Speicherung und Nutzung von Gesprächsprotokollen sowie Garantien, dass Nutzerinnen und Nutzer die Kontrolle darüber behalten. Der Zusammenhang liegt auf der Hand. Ratschläge zum Schutz persönlicher Informationen sind hilfreicher, wenn Dienste zugleich offenlegen, welche Daten sie erheben, speichern und weiterverwenden.

Jugendliche brauchen mehr als das Wissen ihrer Erziehungsberechtigten

Von den 201 Befragten im Alter von 15 bis 18 Jahren nutzten 69,2 % KI aus emotionalen Gründen, ähnlich viele wie in der Gesamtstichprobe mit 68,8 %. Auffälliger war der Anteil derjenigen, die sich als abhängig bezeichneten: Mit 51,7 % war er in dieser Altersgruppe höher als in allen anderen.

Das Ministerium bezeichnet dieses Ergebnis als wahrgenommene Abhängigkeit. Einige Berichte beschreiben denselben Wert genauer als den Anteil derjenigen, die sich stärker auf KI als auf andere Menschen verlassen. Keine der beiden Beschreibungen sollte als klinische Diagnose einer Sucht verstanden werden.

Obwohl 83,1 % der befragten Jugendlichen angaben, dass ihre Erziehungsberechtigten von ihrer KI-Nutzung wussten, hatten nur 2,5 % mit ihnen Regeln zur Nutzung vereinbart. Zwischen dem Wissen und gemeinsam vereinbarten Regeln lag damit eine Lücke von 80,6 Prozentpunkten. Die Zahlen zeigen jedoch nicht, dass Wissen allein schädliche Nutzung verhindert.

Die gesonderten Empfehlungen für junge Menschen fordern Kinder dazu auf, vor der Befolgung von KI-Ratschlägen ihre eigenen Gedanken und Umstände zu berücksichtigen, sich bewusst zu machen, dass sie ein Gespräch jederzeit beenden können, und zu prüfen, ob sie KI-Figuren wie echte Freunde oder romantische Partner behandeln. Gefährliche Antworten sollten sie Vertrauenspersonen unter den Erwachsenen zeigen, statt allein damit umzugehen.

Erziehungsberechtigten wird geraten, sich anzuhören, wie und warum Kinder KI nutzen, die Eignung für ihr Alter und die Datenschutzeinstellungen zu prüfen und gemeinsam Regeln festzulegen, statt pauschale Verbote auszusprechen. Sie sollten auf eine zunehmende Nutzung, schrumpfende persönliche Kontakte und Anzeichen einer Krise achten. Als Hilfsangebote werden Schulberaterinnen und Schulberater, Wee-Class-Beratungszentren und Jugendberatungsdienste wie die Nummer 1388 genannt.

Die Warnung kommt zu einer Zeit, in der die Behandlungen von Jugendlichen zunehmen: Die psychiatrische Versorgung von unter 18-Jährigen stieg zwischen 2020 und 2024 um 76,6 %. Separat erhobene Daten zum Schlafmangel unter Schülerinnen und Schülern zeigten, dass 46,7 % der Jugendlichen an allgemeinbildenden Oberschulen weniger als sechs Stunden schliefen. Diese Studien belegen keinen Zusammenhang mit der Nutzung von Chatbots. Sie verdeutlichen aber, warum es in den Empfehlungen für Jugendliche wichtig ist, den Schlaf zu schützen und den Zugang zu professioneller Versorgung sicherzustellen.

Klinische Forschung bestätigt nicht jeden Chatbot

Eine Übersichtsarbeit zur digitalen Psychiatrie, die am 1. Oktober 2025 online in Clinical Psychopharmacology and Neuroscience veröffentlicht wurde, beschreibt sowohl mögliche Vorteile als auch erhebliche Einschränkungen. Sie untersucht Studien und andere Forschung zu Chatbots, die für Interventionen im Bereich der psychischen Gesundheit entwickelt wurden, statt alle dialogfähigen Systeme gleichzusetzen.

Die Übersichtsarbeit verweist auf eine randomisierte Studie zu Therabot, die durchschnittliche Symptomrückgänge von 51 % bei einer schweren depressiven Störung und 31 % bei einer generalisierten Angststörung meldete. Sie behandelt außerdem strukturierte Hilfsmittel auf Grundlage der kognitiven Verhaltenstherapie, die Menschen dabei unterstützt, Zusammenhänge zwischen Gedanken, Gefühlen und Verhalten zu erkennen.

Diese Ergebnisse belegen nicht, dass ein allgemeiner Chatbot zuverlässige Diagnosen oder sichere Behandlungen bietet. Die Produkte unterscheiden sich in ihrem Aufbau, den therapeutischen Inhalten und der fachlichen Begleitung. Die Übersichtsarbeit selbst verweist auf die begrenzte Datenlage zu langfristigen Wirkungen sowie den Bedarf an strengeren Tests generativer Systeme auf Falschinformationen, widersprüchliche Antworten und unsicheres Verhalten.

Zu den Sicherheitsbedenken zählen schädliche Antworten in Krisensituationen, die Bestärkung wahnhaften Erlebens, Voreingenommenheit und Datenschutzrisiken. Die Autorinnen und Autoren empfehlen von Menschen überwachte Krisenverfahren, eine stärkere Regulierung von Gesundheitsdaten und eine Versorgung, die KI-Hilfsmittel mit klinischem Fachpersonal kombiniert, statt dieses zu ersetzen.

Welche Maßnahmen der Regierung als Nächstes anstehen

Die Ankündigung des Ministeriums folgt auf frühere politische Zusagen und gibt einen Zeitplan für gezieltere Empfehlungen vor:

• Januar 2025: Südkorea veröffentlichte Leitlinien zur Zulassung und Überprüfung medizinischer Geräte mit generativer KI, die in der wissenschaftlichen Übersichtsarbeit behandelt werden.
• 27. März 2026: Der Dritte Basisplan für die Versorgung im Bereich psychische Gesundheit für den Zeitraum 2026 bis 2030 sah Leitlinien zum Umgang mit KI-Abhängigkeit vor.
• 9. Juni 2026: Auch staatliche Maßnahmen zur Suizidprävention bei Jugendlichen enthielten Pläne für Leitlinien.
• 25. August bis 4. September 2026: Die Umfrage unter 1.019 Personen, die kürzlich generative KI genutzt hatten, wurde durchgeführt.
• 8. Oktober 2026: Das Ministerium und die psychiatrische Fachgesellschaft veröffentlichten Empfehlungen für Nutzerinnen und Nutzer sowie Erziehungsberechtigte.
• 2027: Das Ministerium plant maßgeschneiderte Empfehlungen für besonders gefährdete Gruppen, darunter Menschen mit schweren psychischen Erkrankungen.

Die Unterstützung staatlicher Maßnahmen war weit verbreitet: 86,9 % sagten, die Regierung habe eine Rolle bei der Bewältigung von Problemen im Zusammenhang mit der KI-Nutzung. Davon sprachen sich 45,0 % für Leitlinien und 41,9 % für gesetzliche Regelungen aus. 68,7 % bezeichneten Leitlinien für KI im Bereich psychische Gesundheit und Änderungen des Rechtsrahmens als dringende Prioritäten.

Empfehlungen für Nutzerinnen und Nutzer und die Aufsicht über Produkte betreffen unterschiedliche Verantwortlichkeiten. Die Weltgesundheitsorganisation warnte in ihren Leitlinien vom Januar 2024 zu großen multimodalen Modellen, also Systemen, die Informationen wie Text und Bilder verarbeiten, vor Automatisierungsbias, also übermäßigem Vertrauen in maschinelle Ergebnisse. Sie empfahl unabhängige Prüfungen und Folgenabschätzungen nach einem breiten Einsatz und deren Veröffentlichung.

Südkoreas neue Empfehlungen bewerten oder befürworten keine einzelnen Dienste. Das Ministerium plant Bildungsprogramme für Schulen und klinische Einrichtungen, nennt aber weder einen genauen Veröffentlichungstermin dafür noch für die Leitlinien von 2027. Auch ein neues verbindliches Gesetz für alle Chatbots zur emotionalen Unterstützung kündigte es nicht an.

Die wichtigsten Punkte

• Südkorea veröffentlichte am 8. Oktober 2026 Leitlinien für KI im Bereich psychische Gesundheit: mit 21 allgemeinen Empfehlungen und jeweils sieben für junge Nutzerinnen und Nutzer sowie Erziehungsberechtigte.
• Unter den Befragten mit schlechter psychischer Gesundheit akzeptierten 33,9 % KI-Einschätzungen als Diagnosen oder nutzten sie zur Selbstdiagnose.
• Nur 11,9 % aller Befragten glichen KI-Ratschläge zur psychischen Gesundheit mit Fachleuten oder offiziellen Informationen ab.
• Schwierigkeiten, Gespräche zu beenden, und Entscheidungen allein auf Grundlage von KI-Ratschlägen kamen bei Personen, die KI für psychologische Beratung nutzten, häufiger vor.
• Unter den befragten Jugendlichen berichteten 51,7 % von Abhängigkeit, während nur 2,5 % mit ihren Erziehungsberechtigten Nutzungsregeln vereinbart hatten.
• Die Leitlinien fordern Datenschutz, den Austausch mit anderen Menschen und professionelle Hilfe in Krisen. Maßgeschneiderte Empfehlungen sind für 2027 geplant.