Missbrauch mit KI-Deepfakes von Kindern in Japan löst Polizeiermittlungen und juristische Debatte aus

Eine zunehmende Krise an japanischen Schulen

Die Polizei in ganz Japan erhält immer häufiger Meldungen darüber, dass Mitschüler mithilfe künstlicher Intelligenz sexualisierte Deepfakes von Minderjährigen erstellen. Dafür verwenden sie oft Fotos von Schulveranstaltungen, aus Abschlussalben und aus privaten Gruppenchats. Die Betroffenen sind meist Schüler an Mittel- und Oberschulen, doch auch Grundschulkinder wurden bereits zum Ziel. In mehreren Fällen waren die Täter selbst minderjährig. Sie nutzten Bildgeneratoren oder einfache Smartphone-Apps, um überzeugende explizite Fälschungen zu erstellen und in ihrem Umfeld zu verbreiten.

Nach Angaben der Behörden gingen im vergangenen Jahr mehr als 100 Beratungsanfragen und Anzeigen zu gefälschten sexualisierten Bildern von Minderjährigen ein. Bei 17 der bekannten Fälle stammten die Vorlagen von Schulveranstaltungen oder aus Jahrbuchfotos. Die Betroffenen vermuten oft jemanden aus ihrem Umfeld. Die Polizei hat auch Schikanen unter Gleichaltrigen gleichen Geschlechts dokumentiert, bei denen es darum ging, andere zu mobben oder zu demütigen, und nicht um sexuelle Erregung. In einem Fall aus der Tokai-Region in Zentraljapan wurde ein Schüler einer Mittelstufe wegen des Verdachts auf Verleumdung der Staatsanwaltschaft überstellt, nachdem er ein gefälschtes Nacktfoto einer Mitschülerin erstellt und unter Freunden verbreitet hatte.

Der Anstieg folgt einem weltweiten Trend. Ein US-Sicherheitsunternehmen erfasste 2023 online mindestens 95.820 Deepfake-Videos und berichtete, dass 98 Prozent davon pornografisch waren. Mit leicht bedienbaren Tools können Nutzer inzwischen einen Prompt eingeben, ein Gesicht hochladen oder mit einem Fingertipp versuchen, Kleidung auf einem Foto zu entfernen. Diese einfache Verfügbarkeit trifft auf die Dynamik sozialer Beziehungen an Schulen und auf die große Zahl persönlicher Fotos, die Kinder veröffentlichen oder teilen, oft ohne zu ahnen, wie diese Bilder missbraucht werden können.

Wie Jugendliche mit Alltagsfotos Deepfakes erstellen

Die heute verfügbaren Tools lassen sich in einige Kategorien einteilen. Manche Apps versuchen, ein Foto zu „entkleiden“, indem sie unter der Kleidung einen Körper hinzuerfinden. Andere setzen das Gesicht aus einem Schulfoto auf den Körper eines erwachsenen Darstellers. Mit generativen KI-Websites lassen sich außerdem allein anhand von Text-Prompts explizite Bilder erzeugen, die sich mithilfe einiger Referenzfotos einer bestimmten Person ähneln können. Diese Systeme wurden dafür entwickelt, auf Grundlage von Mustern aus riesigen Datensätzen neue Bilder zu erzeugen. Sie können auf Geräten für Verbraucher laufen. Dadurch sinkt die Hürde für den Missbrauch, während es für Schulen, Familien und Ermittlungsbehörden schwieriger wird, ihn zu erkennen.

Warum sich solche Fälle nur schwer strafrechtlich verfolgen lassen

Japans wichtigstes Gesetz zu sexuellen Darstellungen von Kindern, das Gesetz zur Regulierung und Bestrafung von Handlungen im Zusammenhang mit Kinderprostitution und Kinderpornografie, wurde zum Schutz realer Kinder verfasst, die auf echten Bildern zu sehen sind. Bei KI-Fälschungen entsteht dadurch eine rechtliche Grauzone. Ist ein Bild synthetisch, ist der rechtliche Weg selbst dann weniger eindeutig, wenn es das Gesicht oder die Ähnlichkeit eines realen Kindes zeigt. Die Polizei greift deshalb auf andere Gesetze zurück, darunter Bestimmungen zu Verleumdung und bestimmte lokale Verordnungen, um Fälle nach Möglichkeit zu verfolgen. Das Vorgehen ist uneinheitlich und bürdet den Betroffenen und ihren Familien die Verantwortung auf, den Missbrauch zu erkennen und schnell Anzeige zu erstatten.

Was die Polizei derzeit unternimmt

Die japanische Polizeibehörde prüft derzeit rund zehn Bildgenerator-Websites und -Apps, die bei Schülern an Mittel- und Oberschulen besonders beliebt sind. Die Ermittler wollen ihre Erkenntnisse für strafrechtliche Ermittlungen nutzen und Bildungsangebote für Jugendliche entwickeln. Dazu gehören Präventionskurse, in denen erklärt wird, warum das Erstellen oder Verbreiten solcher Bilder eine Straftat und eine schwere Belastung für Mitschüler sein kann.

Führende Polizeibeamte warnen, dass das Ausmaß des Missbrauchs deutlich größer sein dürfte, als die gemeldeten Fälle vermuten lassen. Nach der Prüfung jüngster Beschwerden sagte ein hochrangiger Polizeibeamter, die bekannten Vorfälle stellten wahrscheinlich nur einen kleinen Teil des tatsächlichen Ausmaßes dar, da viele Betroffene sich nicht melden.

Die rechtliche Grauzone in Japan

Rechtswissenschaftler in Japan sagen, die Gesetzgebung des Landes habe mit der generativen KI nicht Schritt gehalten. Nach geltendem Recht könnte ein Deepfake außerhalb der nationalen Regelungen zu Darstellungen sexuellen Kindesmissbrauchs liegen, wenn die Staatsanwaltschaft nicht nachweisen kann, dass ein reales Kind abgebildet oder eindeutig identifizierbar ist. Dieser rechtlichen Lücke steht das sehr reale Leid der Betroffenen gegenüber, wenn ihre Gesichter oder Namen mit expliziten Fälschungen verknüpft werden, die sich in Gruppenchats oder in sozialen Medien verbreiten.

Takashi Nagase, Anwalt und Professor an der Universität Kanazawa, der zur Internetpolitik beraten hat, argumentiert, dass die Unterscheidung zwischen echten und synthetischen Bildern nicht mehr dazu passt, wie die Technologie eingesetzt wird.

Das geltende Gesetz wurde zum Schutz realer Kinder geschaffen, doch generative KI hat die Grenze zwischen echt und gefälscht verwischt.

Einige Kommunalverwaltungen sind bereits aktiv geworden. Die Präfektur Tottori änderte 2024 ihre Verordnung und verbot ausdrücklich, mithilfe von Kinderfotos sexuell explizite Fälschungen zu erstellen. Kinderschutzorganisationen begrüßen solche lokalen Maßnahmen, sagen aber, dass eine nationale Regelung nötig sei, damit die Durchsetzung nicht je nach Zuständigkeit unterschiedlich ausfällt oder scheitert, wenn Bilder auf ausländischen Servern gespeichert oder anonym geteilt werden. Eine Arbeitsgruppe der Zentralregierung hat über die Internetnutzung von Jugendlichen und mögliche Maßnahmen gegen KI-Missbrauch beraten, doch die Fortschritte sind langsam.

Masaki Ueda, außerordentlicher Professor für Strafrecht an der Universität Kanagawa, der zu Vorschriften über Obszönität forscht, sagt, die rechtliche Einordnung müsse die tatsächlichen Eingriffe in die Privatsphäre und die psychischen Schäden berücksichtigen, die Kindern durch den Missbrauch ihrer Abbildungen entstehen.

Wenn sich ausgefeilte Fälschungen online verbreiten, verletzt das die Privatsphäre der Kinder, deren Fotos missbraucht werden, selbst wenn die Bilder gefälscht sind. Die psychische Belastung ist erheblich. Deshalb sollten Deepfake-Bilder ähnlich wie Kinderpornografie behandelt und gesetzliche Regelungen erwogen werden.

Die Technologie hinter dem Missbrauch

Deepfakes entstehen mithilfe von maschinellen Lernmodellen, die darauf trainiert wurden, lebensechte Bilder zu erzeugen. Dabei dominieren zwei Arten von Tools. Beim Gesichtstausch wird ein Zielgesicht an ein vorhandenes Video oder Foto angepasst und darin eingefügt. Text-zu-Bild-Systeme, häufig als Diffusionsmodelle bezeichnet, erzeugen anhand eines schriftlichen Prompts ein vollständiges Bild von Grund auf und können, sofern entsprechende Bilder vorliegen, wenige Referenzgesichter einbeziehen. Täter trainieren mitunter ein lokales Modell anhand einiger Bilder nach, die sie aus dem Social-Media-Profil der Zielperson kopiert oder einem Schulalbum entnommen haben. Dadurch sieht das Ergebnis dem Kind unheimlich ähnlich.

Diese Fortschritte erschweren Erkennung und Reaktion. Ist ein Bild vollständig synthetisch, gibt es kein Originalfoto, mit dem man es vergleichen könnte. Wasserzeichen und KI-Erkennungsfilter gibt es zwar, doch sie sind unzuverlässig und lassen sich entfernen. Die Internet Watch Foundation berichtete, dass in einem Monat des Jahres 2023 in einem einzigen Darknet-Forum mehr als 20.000 KI-generierte Bilder veröffentlicht wurden, von denen Tausende gegen britisches Recht verstießen. Spätere Berichte warnten, dass solche Inhalte zunehmend ins offene Internet gelangen, wo ahnungslose Nutzer und Betroffene ihnen in frei zugänglichen Foren und Bildergalerien begegnen können. Nach Angaben der IWF sind einige der überzeugendsten Inhalte optisch nicht von echtem Missbrauchsmaterial zu unterscheiden. Dadurch steigt das Risiko einer erneuten Traumatisierung, während Moderationsteams und Polizei überlastet werden. Die IWF hat eine Studie zum Missbrauch von KI bei der Erstellung von Darstellungen sexuellen Kindesmissbrauchs veröffentlicht und dringende rechtliche und technische Gegenmaßnahmen gefordert. Ihre Berichte sind unter IWF-Studie verfügbar.

Die Folgen für Betroffene und Schulen

Wenn ein Kind das eigene Gesicht auf ein sexualisiertes Bild montiert sieht, kann das Angst und Scham auslösen und das Gefühl vermitteln, die Kontrolle verloren zu haben. Selbst wenn Mitschüler erkennen, dass ein Bild gefälscht ist, können die Folgen für Ruf und psychische Gesundheit erheblich sein. In Schulgemeinschaften entstehen weitere Schäden, wenn sich Gerüchte verbreiten, Mobbing zunimmt und Lehrkräfte gleichzeitig auf Eltern, die Sicherheit der Schüler und die Polizei reagieren müssen.

Insbesondere Mädchen berichten, dass sie ihr Verhalten im Internet ändern. In England teilte die Kinderbeauftragte mit, dass manche Jugendliche keine Fotos mehr veröffentlichen, weil sie befürchten, Tools zum „Entkleiden“ könnten diese Bilder für den Missbrauch nutzbar machen. Dame Rachel de Souza, Englands Kinderbeauftragte, forderte die Gesetzgeber auf, Apps zu verbieten, die explizite Deepfakes von Kindern erzeugen, und verwies auf die zunehmende Belastung von Mädchen im Teenageralter.

Tools, die mithilfe von Deepfake-Technologie Nacktbilder von Kindern erstellen, dürfen nicht legal sein. Ich fordere die Regierung auf, entschlossen zu handeln und sie zu verbieten. Sie haben in unserer Gesellschaft keinen Platz.

In Japan beobachten Anwälte nach eigenen Angaben immer mehr Fälle, in denen gegen Jungen im Teenageralter wegen Sexualstraftaten im Zusammenhang mit Deepfakes oder expliziten Inhalten in Gruppenchats ermittelt wird. Fachleute warnen, dass viele Jugendliche die rechtlichen Folgen oder den Schaden für Gleichaltrige erst dann verstehen, wenn die Polizei vor der Tür steht oder ein schulisches Disziplinarverfahren eingeleitet wird. Diese Lücke zeigt, wie wichtig klare Regeln, Aufklärung an Schulen und wirksame Schutzmaßnahmen der Plattformen sind.

Internationale Maßnahmen und Lehren für Japan

Andere Länder haben damit begonnen, rechtliche Schlupflöcher zu schließen. Südkorea verabschiedete im September 2024 ein Gesetz, das nicht nur das Erstellen sexualisierter Deepfake-Bilder von Minderjährigen unter Strafe stellt, sondern auch deren Betrachtung und Besitz. In den Vereinigten Staaten macht ein im Mai 2025 verabschiedetes Bundesgesetz es illegal, sexuell explizite Bilder oder Videos ohne Zustimmung der abgebildeten Person zu veröffentlichen. Außerdem verpflichtet es Plattformen, solche Inhalte innerhalb von 48 Stunden nach einer Aufforderung durch die betroffene Person zu entfernen. Viele US-Bundesstaaten haben ihre Gesetze ebenfalls aktualisiert. Demnach gelten KI-veränderte oder KI-generierte Darstellungen von Minderjährigen bei sexuellen Handlungen als illegales Material sexuellen Kindesmissbrauchs, auch wenn bei der dargestellten Handlung kein reales Kind anwesend war. Diese Maßnahmen auf Ebene der Bundesstaaten sind eine Reaktion auf frühere US-Gerichtsurteile, nach denen ausschließlich virtuelle Inhalte anders behandelt wurden als Bilder mit realen Kindern.

In Europa arbeiten Strafverfolgungsbehörden grenzüberschreitend zusammen. Europol koordinierte die Operation Cumberland, eine der ersten weltweiten Ermittlungsaktionen gegen KI-generiertes Material sexuellen Kindesmissbrauchs. Mit Unterstützung von 19 Ländern identifizierte die Polizei Hunderte Verdächtige, nahm Dutzende fest und durchsuchte Wohnungen, um eine Plattform zu zerschlagen, über die vollständig künstliche Bilder von Minderjährigen verbreitet wurden. Die Ermittler sagten, KI ermögliche es inzwischen auch Personen mit geringen technischen Kenntnissen, große Mengen an Missbrauchsmaterial herzustellen. Sie warnten, dass herkömmliche Methoden zur Identifizierung von Betroffenen oder zur Rückverfolgung des Ausgangsmaterials bei synthetischen Bildern oft versagen. Europols Exekutivdirektorin Catherine De Bolle betonte, dass neue Ermittlungsmethoden für KI-generierte Inhalte erforderlich seien.

Personen mit kriminellen Absichten können KI-generierte Bilder leicht erstellen. Dadurch nimmt die Menge des Missbrauchsmaterials zu und es wird schwieriger, Täter oder Betroffene zu identifizieren.

In Japan hat die Polizei kürzlich die ersten Festnahmen im Zusammenhang mit dem Verkauf KI-generierter obszöner Poster fiktiver erwachsener Frauen über Online-Auktionen vorgenommen. Das zeigt, dass bestehende Gesetze gegen Obszönität auch manche Fälle von KI-Missbrauch erfassen können. Ein Verdächtiger soll innerhalb eines Jahres rund zehn Millionen Yen verdient haben. Bei Fällen mit Kindern gibt es zusätzliche Hürden. Deshalb fordern Rechtswissenschaftler und Kinderschutzorganisationen ausdrückliche nationale Regelungen für KI-generierte sexualisierte Darstellungen Minderjähriger, unabhängig davon, ob sie auf echten Fotos beruhen oder vollständig synthetisch sind.

Was Familien, Schulen und Plattformen jetzt tun können

Während politische Entscheidungsträger über Reformen beraten, gibt es praktische Maßnahmen, um Risiken zu senken und bei Missbrauch schneller zu reagieren. Dabei geht es um Einwilligung, den Zugang zu Fotos, Meldestellen und psychologische Unterstützung.

• Die Verbreitung von Schülerfotos begrenzen. Schulen können den Zugriff auf Klassenalben und Galerien von Veranstaltungen auf verifizierte Erziehungsberechtigte beschränken, zeitlich begrenzte Links verwenden und Bilder mit Wasserzeichen versehen, sobald sie offizielle Kanäle verlassen.
• Früh über Einwilligung und digitale Ethik aufklären. KI- und Medienkompetenz in Klassenlehrerstunden oder den Informatikunterricht integrieren und dabei offen über Deepfakes, Privatsphäre und den Schaden sprechen, den solche Bilder verursachen.
• Klare Regeln für Gruppenchats festlegen. Schülergruppen und Klassen sollten Verhaltensregeln für Messenger-Apps mit klaren Konsequenzen für das Verbreiten expliziter oder belästigender Inhalte vereinbaren.
• Schüler dazu ermutigen, Vorfälle schnell zu melden. Es sollte einfach sein, eine Vertrauensperson, die Schule und die Plattform zu informieren, sobald ein missbräuchliches Bild auftaucht. Eine schnelle Meldung verkürzt die Zeit, in der sich das Bild verbreiten kann.
• Mit der Polizei zusammenarbeiten. Auch wenn der rechtliche Weg nicht offensichtlich ist, sollten Beweise der Polizei übergeben werden, damit sie zu möglichen Fällen von Verleumdung, Verletzung der Privatsphäre oder Verstößen gegen lokale Verordnungen beraten kann.
• Plattformen einschalten. Die integrierten Funktionen nutzen, um nicht einvernehmlich verbreitete sexualisierte Bilder zu melden und ihre Entfernung zu beantragen. Links, Zeitstempel und Nutzernamen dokumentieren.
• Die psychische Gesundheit der Betroffenen unterstützen. Vertrauliche Beratung anbieten und Erziehungsberechtigte umgehend einbeziehen. Betroffene nicht dazu zwingen, Mitschüler zur Rede zu stellen, um zu beweisen, dass ein Bild gefälscht ist.
• Weniger persönliche Daten im Internet hinterlassen. Schüler dazu ermutigen, ihre Konten auf privat zu stellen, ältere Beiträge zu löschen und keine hochauflösenden Gesichtsfotos zusammen mit Angaben zu Schule oder Standort zu veröffentlichen.
• Fotos sicherer teilen. Bei Team- oder Klassenfotos können größere Gruppenaufnahmen, weniger Nahaufnahmen von Gesichtern und eingeschränkte Möglichkeiten zur Weiterverbreitung sinnvoll sein.

Für Technologieunternehmen gehören robuste Filter für Prompts und Uploads, standardmäßig gesperrte Funktionen zum „Entkleiden“, eine zuverlässige Altersverifikation und schnelle Verfahren zur Entfernung solcher Inhalte über verschiedene Produkte hinweg zu den Schutzmaßnahmen. Transparenz über bekannte Fehler und dokumentierte Korrekturen kann helfen, Vertrauen zurückzugewinnen. Eine jüngste Kontroverse um einen weit verbreiteten Chatbot, der sexualisierte Bilder einer 16-jährigen Berühmtheit erzeugte, zeigt, wie schnell eine Lücke im Design zu Warnungen von Aufsichtsbehörden und öffentlicher Empörung führen kann.

Die wichtigsten Punkte

• Die japanische Polizei erhält zunehmend Meldungen darüber, dass Minderjährige mithilfe von Schulfotos und Bildern aus Gruppenchats sexualisierte KI-Deepfakes ihrer Mitschüler erstellen und verbreiten.
• Im vergangenen Jahr gingen landesweit mehr als 100 Beratungsanfragen und Anzeigen ein. Mindestens 17 Fälle standen mit Schulveranstaltungen und Abschlussalben in Verbindung.
• Nach geltendem nationalem Recht, das auf echten Bildern von Kindern beruht, ist die strafrechtliche Verfolgung von Deepfakes schwierig. Die Polizei greift häufig auf andere Gesetze zurück, etwa auf Bestimmungen zu Verleumdung.
• Die japanische Polizeibehörde untersucht rund zehn beliebte Bildgenerator-Websites und -Apps. Die Erkenntnisse sollen sowohl strafrechtlichen Ermittlungen als auch der Aufklärung Jugendlicher dienen.
• Fachleute sagen, das Rechtssystem habe mit der Entwicklung nicht Schritt gehalten. Rechtswissenschaftler fordern ausdrückliche nationale Regeln, nach denen sexualisierte Deepfake-Bilder von Minderjährigen ähnlich behandelt werden wie illegales Material sexuellen Kindesmissbrauchs.
• International haben Südkorea, die Vereinigten Staaten, das Vereinigte Königreich und Australien Maßnahmen zur Regulierung KI-generierter sexualisierter Bilder ergriffen, darunter schnelle Löschpflichten und neue Straftatbestände.
• Europols Operation Cumberland richtete sich gegen ein Netzwerk, das vollständig KI-generierte Darstellungen von Kindesmissbrauch verbreitete, und machte die Schwierigkeiten bei Ermittlungen deutlich, wenn kein reales Kind abgebildet ist.
• Schulen, Familien und Plattformen können den Schaden begrenzen, indem sie den Zugang zu Fotos einschränken, KI-Kompetenz vermitteln, Chatregeln durchsetzen, Meldungen erleichtern und Betroffenen Beratung anbieten.