Schnellere Erkennung, doch die Löschung der Inhalte bleibt schwierig
Das Nationale Zentrum für die Bekämpfung digitaler Sexualverbrechen in Südkorea identifizierte zwischen April und September 96.210 Inhalte mit Darstellungen des sexuellen Missbrauchs von Kindern. Dabei kam ein System mit künstlicher Intelligenz zum Einsatz, das Mitarbeitenden hilft, verdächtige Inhalte zu finden und ihre Löschung zu beantragen. Nach Angaben des Ministeriums für Gleichstellung und Familie stieg die Zahl der täglichen Funde auf 202,1 je Mitarbeiter in der Überwachung, verglichen mit 20,8 vor Einführung des Systems. Das entspricht einem Anstieg um etwa das 9,7-Fache.
Inhalt
- Schnellere Erkennung, doch die Löschung der Inhalte bleibt schwierig
- So funktioniert das nationale System
- Was der Anstieg in Zahlen bedeutet
- Die meisten Menschen, die Unterstützung erhalten, sind jung
- Seoul zeigt ein separates Beispiel für schnellere Meldungen
- Warum ein Löschantrag dem Missbrauch nicht unbedingt ein Ende setzt
- Das nächste Ziel ist Grooming in Chats
- Für die Unterstützung bleiben Menschen verantwortlich
- Wie sich die Maßnahmen entwickelt haben
- Die wichtigsten Punkte
Das im April eingeführte System durchsucht rund um die Uhr soziale Medien, Online-Communitys und Zufalls-Chat-Apps. Die Mitarbeitenden prüfen die Ergebnisse, bevor Löschanträge an die Plattformen gehen. Aufgaben, für die Beschäftigte früher Websites durchsuchen und Berichte manuell zusammenstellen mussten, lassen sich nun deutlich schneller erledigen.
Die Zahlen zeigen, dass das Zentrum Inhalte wesentlich besser finden und melden kann. Die Websites zum Handeln zu bewegen, bleibt eine separate Herausforderung: Nach Angaben des Zentrums blieben 2025 28,5 Prozent seiner Löschanträge unerfüllt. Von den Websites, deren Serverstandorte das Zentrum ermitteln konnte, wurden mindestens 95,5 Prozent im Ausland gehostet.
Für Betroffene reichen die praktischen Folgen über den ersten Löschantrag hinaus. Bilder können kopiert und erneut hochgeladen werden, sodass wiederholte Suchläufe und fortlaufende Unterstützung nötig sind. Das nationale Zentrum verbindet die Überwachung und Löschhilfe mit Unterstützung bei rechtlichen Schritten.
Die Erfahrungen Südkoreas zeigen auch zwei unterschiedliche Einsatzmöglichkeiten derselben Technologie. Künstliche Intelligenz kann gefälschte sexuelle Bilder erstellen, die gemeinhin als Deepfakes bezeichnet werden. Erkennungssysteme können Mitarbeitenden zugleich helfen, solches Material aufzuspüren und schneller darauf zu reagieren. Menschliche Entscheidungen bleiben Teil des Verfahrens, sowohl bei der Prüfung mutmaßlicher Missbrauchsdarstellungen als auch bei der Unterstützung der Betroffenen.
So funktioniert das nationale System
Das System des nationalen Zentrums sammelt Beiträge anhand von etwa 220 Schlüsselwörtern, die aus der Überwachungsarbeit hervorgehen. Es untersucht Text und Bilder gemeinsam und zeigt den Mitarbeitenden eine Einschätzung samt Begründung an. Die endgültige Entscheidung über eine Meldung trifft ein Mitarbeiter.
Nach der Freigabe durch einen Mitarbeiter stellt das System die Informationen zusammen, die die jeweilige Plattform oder Behörde benötigt. Die Bearbeitung eines Löschantrags dauert inzwischen etwa eine Minute oder weniger. Gemeint ist die Zeit, die zum Vorbereiten und Bearbeiten des Antrags benötigt wird; anschließend muss die Website reagieren und den Inhalt entfernen.
Bilder werden standardmäßig unkenntlich gemacht. Mitarbeitende blenden sie bei Bedarf ein, um eine Entscheidung treffen zu können. So wird die wiederholte Konfrontation mit belastendem Material verringert, ohne auf die Prüfung zu verzichten. Außerdem will das Zentrum die Erkennungsgenauigkeit verbessern, indem es das System mit seiner Datenbank trainiert.
Kim Mi-soon, Leiterin des Nationalen Zentrums für die Bekämpfung digitaler Sexualverbrechen, beschrieb, wie die Automatisierung die Arbeit inzwischen unterstützt:
Von der Erkennung, ob Material verbreitet wurde, bis zur Einreichung eines Löschantrags erledigt das System den Prozess weitgehend automatisch, ohne dass an jedem Schritt ein Mensch eingreifen muss.
Das Zentrum hat Datensammler auf 14 Plattformen eingerichtet, darunter Google, X, Bluesky und Telegram. Sie sammeln automatisch Material zur Prüfung. So müssen die Beschäftigten weniger Zeit mit der manuellen Suche verbringen und können sich stärker der Prüfung und Unterstützung Betroffener widmen.
Was der Anstieg in Zahlen bedeutet
Im gesamten Jahr 2025 bearbeitete das Zentrum 45.438 Fälle. Die Zahl von 96.210 Fällen zwischen April und September des Folgejahres entsprach etwa dem 2,1-Fachen dieser Jahreszahl – und wurde innerhalb von sechs Monaten erreicht. Die tägliche Zahl bearbeiteter Fälle je Mitarbeiter in der Überwachung stieg von 20,8 auf 202,1, also um 181,3 Fälle.
2025 unterstützte das Zentrum 10.637 Betroffene, gegenüber 4.973 im Jahr 2020. Das entspricht innerhalb von fünf Jahren einem Zuwachs um 5.664 Personen oder etwa 114 Prozent. Die Zahl der Betroffenen erfasst Menschen, die Unterstützung erhalten; die Fallzahlen beziehen sich auf die Bearbeitung von Inhalten und Löschanträgen durch das Zentrum. Bei einer Person können wiederholte Maßnahmen nötig sein, wenn Inhalte erneut verbreitet werden.
Das Ministerium plant, die Überwachung 2027 auf 139 Plattformen auszuweiten. In seiner Mitteilung bezifferte es die derzeitige Abdeckung auf 74 Plattformen, während auch eine aktuelle Gesamtzahl von 79 genannt wurde. Das Zentrum beschreibt getrennt davon den Ausbau der automatisierten Erfassung von 14 auf 139 Plattformen. Aus den veröffentlichten Zahlen geht nicht eindeutig hervor, wie die umfassendere Überwachungsabdeckung und die installierten Datensammler zusammenhängen.
Ausgehend von der Ministeriumsangabe von 74 würde der Ausbau auf 139 weitere 65 Plattformen umfassen, also eine Zunahme um etwa 88 Prozent. Durch die breitere Abdeckung würden mehr Orte, an denen Missbrauchsmaterial auftauchen kann, in die Überwachung einbezogen. Zugleich würde dadurch die Menge an Material steigen, die Mitarbeitende prüfen müssen.
Die meisten Menschen, die Unterstützung erhalten, sind jung
Jugendliche und Menschen in ihren Zwanzigern machten 2025 zusammen 77,6 Prozent der vom nationalen Zentrum unterstützten Betroffenen aus. Auf Jugendliche entfielen 28,5 Prozent, auf Menschen in ihren Zwanzigern 49,1 Prozent. Das Zentrum unterstützte 3.052 Menschen unter 20 Jahren, darunter 20 Mädchen unter zehn Jahren.
Das Zentrum stellte außerdem ein Muster fest, bei dem Täter über Chat-Apps Kontakt zu potenziellen Betroffenen aufnehmen, schnell Vertrauen aufbauen und auf Ausbeutung hinarbeiten. Ein Kind weiß möglicherweise nicht, dass Missbrauchsmaterial verbreitet wird, oder hat zu große Angst, um Hilfe zu suchen. Deshalb sucht das Zentrum proaktiv nach Material zur sexuellen Ausbeutung von Kindern, auch wenn keine betroffene Person einen Antrag gestellt hat.
Polizeiangaben vermitteln ein separates Bild vom Ausmaß des sexuellen Missbrauchs im Internet. Zwischen November 2024 und Oktober 2025 nahm die südkoreanische Polizei in Fällen von sexuellem Missbrauch im Internet 3.557 Tatverdächtige fest. Jugendliche machten fast die Hälfte der Tatverdächtigen aus; 35,2 Prozent der Fälle betrafen Deepfakes.
Deepfakes sind Bilder, Videos oder Audioaufnahmen, die mit KI verändert oder erzeugt werden, damit eine Person etwas zu tun oder zu sagen scheint, was sie tatsächlich nicht getan oder gesagt hat. In Fällen sexuellen Missbrauchs kann dabei das Gesicht einer Person in sexuelle Inhalte eingefügt werden. Kim sagte, das System des Zentrums könne Deepfakes erkennen, die mit bloßem Auge schwer zu erkennen sind.
Seoul zeigt ein separates Beispiel für schnellere Meldungen
Die Stadtverwaltung Seoul führte 2023 ein eigenes KI-Überwachungssystem ein und kündigte 2025 automatisierte Meldefunktionen an. In ihrer Mitteilung vom 23. Mai erklärte die Stadt, dass Erkennung und Identifizierung, die zuvor zweieinhalb bis drei Stunden dauerten, nun in sechs Minuten abgeschlossen werden könnten.
Das System der Stadt überwacht kontinuierlich, erstellt Berichte und formuliert E-Mails an Hosting-Websites mit der Bitte, Inhalte zu entfernen. Ein Mitarbeiter der Abteilung für Löschunterstützung prüft jeden Entwurf, bevor er versendet wird. Die E-Mails können in sieben Sprachen verfasst werden, darunter Englisch, Chinesisch, Japanisch und Russisch, um Websites im Ausland zu erreichen.
Seoul beschrieb außerdem eine eng umrissene Maßnahme zur Bearbeitungszeit: Die Eingabe von Schlüsselwörtern und die Erstellung von Ergebnissen dauerten drei Minuten, verglichen mit durchschnittlich zwei Stunden bei der manuellen Arbeit der Mitarbeitenden. Die Stadt bezifferte die Zeitersparnis auf 97,5 Prozent. Die Angaben von sechs und drei Minuten beziehen sich auf unterschiedliche Aufgaben innerhalb des Ablaufs.
Die Zahl der über das KI-System Seouls bearbeiteten Löschfälle stieg von 2.509 im Jahr 2022 auf 14.256, eine Zunahme um etwa 468 Prozent. Das Digitale Sicherheits- und Unterstützungszentrum Seoul unterstützte innerhalb von drei Jahren 3.650 Personen und verzeichnete 64.677 Unterstützungsfälle, darunter Hilfe bei Ermittlungen und rechtlichen Fragen, psychologische Beratung und medizinische Versorgung.
2022 entfielen 50 Unterstützungsfälle beziehungsweise 16,2 Prozent auf Kinder und Jugendliche. 2024 verzeichnete die Stadt 624 Fälle beziehungsweise 22,1 Prozent. Das entspricht etwa dem 12,5-Fachen der Fallzahl und einem Anstieg ihres Anteils um 5,9 Prozentpunkte. Der kommunale Dienst Seouls und das nationale Zentrum betreiben getrennte Systeme; ihre Tätigkeitszahlen beziehen sich daher auf unterschiedliche Programme.
Warum ein Löschantrag dem Missbrauch nicht unbedingt ein Ende setzt
Dass 2025 28,5 Prozent der Löschanträge des nationalen Zentrums unerfüllt blieben, bedeutet, dass mehr als jeder vierte Antrag nicht zur gewünschten Löschung führte. Kim sagte außerdem, dass mehr als ein Viertel der kontaktierten Websites überhaupt nicht reagierte. Manche illegalen Websites versuchen, Sperren zu umgehen, indem sie ihre Zugangswege ändern.
Das Hosting im Ausland bringt zusätzlichen Aufwand mit sich. Das Zentrum arbeitet mit der Polizei und Ermittlungsbehörden sowie mit Unterstützungsorganisationen im Ausland und Botschaften zusammen. Ein Antrag in der passenden Sprache kann einer Plattform helfen, tätig zu werden. Gegen einen nicht kooperierenden Betreiber vorzugehen, erfordert jedoch Zusammenarbeit über das Zentrum hinaus.
Das Ministerium für Gleichstellung und Familie, die Polizei und die Koreanische Kommission für Kommunikationsstandards haben eine gemeinsame Gruppe zur Unterstützung Betroffener gegründet. Ihr Ziel ist es, die Verbreitung von Missbrauchsmaterial zu unterbrechen. Zu den beschriebenen Maßnahmen gehören Löschbemühungen auf Serverebene und die Schließung illegaler Websites.
Kim betonte, dass eine fortlaufende Unterstützung nötig sei, weil Inhalte nach ihrer Löschung kopiert und erneut verbreitet werden können. Für Betroffene kann die Hilfe daher über einen längeren Zeitraum die Suche nach neuen Uploads, weitere Anträge sowie rechtliche oder psychologische Unterstützung umfassen.
Das nächste Ziel ist Grooming in Chats
Das nationale Zentrum entwickelt eine Technologie, die Grooming im Internet erkennen soll, indem sie den Verlauf von Gesprächen untersucht. Grooming ist ein Prozess, bei dem ein Erwachsener oder ein anderer Täter das Vertrauen eines jungen Menschen gewinnt, um ihn zur sexuellen Ausbeutung zu bewegen.
Hier stößt die Suche nach Schlüsselwörtern an Grenzen, da einzelne Nachrichten ganz gewöhnliche Sprache enthalten können. Ein Kommentar über das Aussehen oder eine Frage nach dem Alter kann Teil eines bedenklicheren Austauschs werden, wenn darauf Druck folgt, in einen privaten Chat oder zu sexuellen Handlungen überzugehen. Die geplante Technologie soll den Ablauf und den Kontext bewerten, statt sich nur auf einzelne Wörter zu stützen.
Das Zentrum entwickelt außerdem einen KI-Chatbot, der gefährdeten jungen Menschen Informationen über Unterstützungsangebote geben soll. Beide Vorhaben erweitern die Arbeit über das Auffinden bereits online verbreiteter Inhalte hinaus: Das eine soll Kontaktanbahnungen erkennen, die zu Ausbeutung führen könnten, das andere den Zugang zu Hilfe erleichtern.
Für das Analysewerkzeug für Gespräche und den Chatbot wurde kein Einführungstermin genannt. Das datierte Ausbauziel ist 2027: Dann will das Zentrum seine KI-Überwachung auf 139 Plattformen ausweiten.
Für die Unterstützung bleiben Menschen verantwortlich
Das nationale Zentrum nahm 2018 seine Arbeit auf und wurde später im Zuge von Änderungen der Gesetze zur Prävention sexueller Gewalt und zum Schutz Betroffener umbenannt. Es gehört zum Koreanischen Institut für Frauenrechte und verfügt über vier Teams und 43 genehmigte Stellen.
Durch die Automatisierung können die Beschäftigten ihre Zeit anders einsetzen. Die kontinuierliche Suche, das Gruppieren von Funden und das Vorbereiten von Antragsformularen können teilweise von Software übernommen werden. Die Entscheidung über die nächsten Schritte, die Unterstützung bei rechtlichen Maßnahmen und der Umgang mit seelischer Belastung erfordern weiterhin Mitarbeitende.
Park Kwang-soo, Leiter des Koreanischen Instituts für Frauenrechte, beschrieb die Rolle der Menschen bei der Unterstützung:
Welche KI oder Technologie wir auch einsetzen: Die Unterstützung Betroffener muss beim Menschen beginnen und beim Menschen enden“, sagte Park. „Und an unzähligen Stellen dazwischen werden Menschen gebraucht.
Unkenntlich gemachte Vorschaubilder, automatisierte Schreibarbeit und eine schnellere Erfassung unterstützen diesen Ansatz, indem sie repetitive Arbeit und die Konfrontation mit schädlichen Bildern verringern. Ob der Ausbau des Zentrums gelingt, hängt davon ab, sowohl mehr Material zu finden als auch die menschliche Prüfung und Unterstützung aufrechtzuerhalten, die nötig sind, um darauf zu reagieren.
Wie sich die Maßnahmen entwickelt haben
Die nationalen und kommunalen Programme Südkoreas sind in mehreren Etappen entstanden. Ihre Zeitabläufe zeigen, wie die Unterstützung Betroffener parallel zu automatisierten Such- und Meldeverfahren ausgebaut wurde.
- 2018: Das nationale Unterstützungszentrum für Betroffene digitaler Sexualverbrechen nahm seine Arbeit auf.
- 2023: Die Stadtverwaltung Seoul führte ihr KI-Überwachungssystem ein.
- November 2024 bis Oktober 2025: Die Polizei nahm in Fällen von sexuellem Missbrauch im Internet 3.557 Tatverdächtige fest.
- 23. Mai 2025: Seoul kündigte automatisierte Meldefunktionen an; Mitarbeitende prüfen die E-Mails, bevor sie versendet werden.
- 2025: Das nationale Zentrum unterstützte 10.637 Betroffene und bearbeitete 45.438 Fälle.
- April bis September 2026: Nach der Einführung seines KI-Systems im April bearbeitete das nationale Zentrum 96.210 Fälle.
- 2027: Das nationale Zentrum plant, seine KI-Überwachung auf 139 Plattformen auszuweiten.
Der nächste geplante Ausbau betrifft die Zahl der überwachten Plattformen. Wie viel er in der Praxis bringt, hängt davon ab, wie schnell verdächtiges Material zur menschlichen Prüfung gelangt und wie wirksam Plattformen und Behörden auf die daraus entstehenden Anträge reagieren.
Die wichtigsten Punkte
- Das nationale Zentrum identifizierte zwischen April und September 96.210 Inhalte mit Darstellungen des sexuellen Missbrauchs von Kindern.
- Die Zahl der täglichen Funde je Mitarbeiter in der Überwachung stieg von 20,8 auf 202,1 und damit auf etwa das 9,7-Fache des vorherigen Werts.
- Mitarbeitende prüfen verdächtiges Material, bevor Löschanträge eingereicht werden.
- 2025 blieben 28,5 Prozent der Löschanträge des nationalen Zentrums unerfüllt.
- Jugendliche und Menschen in ihren Zwanzigern machten 77,6 Prozent der vom nationalen Zentrum unterstützten Betroffenen aus.
- Seoul betreibt ein separates KI-System, das Lösch-E-Mails in sieben Sprachen entwirft, die anschließend von Mitarbeitenden geprüft werden.
- Das nationale Zentrum plant, seine Überwachung 2027 auf 139 Plattformen auszuweiten. Zudem entwickelt es Werkzeuge, um Grooming zu erkennen und Informationen über Unterstützungsangebote bereitzustellen.
