Fast 14.000 Löschungen, strengere Maßnahmen der Plattformen stehen bevor
Malaysia hat die Entfernung von 13.883 Deepfake-Inhalten erwirkt, darunter 1.178 mit Bezug zu politischen Führungspersönlichkeiten. Dies geschah nach Beschwerden aus der Öffentlichkeit und Löschaufforderungen der malaysischen Kommunikations- und Multimedia-Kommission (MCMC), teilte Kommunikationsminister Fahmi Fadzil dem Parlament am 17. November mit.
Inhalt
- Fast 14.000 Löschungen, strengere Maßnahmen der Plattformen stehen bevor
- Was Plattformen ändern müssen
- Beschwerden stiegen vor der jüngsten Bilanz stark an
- Ermittlungen wegen KI-Missbrauchs führten zu Geldstrafen und Verwarnungen
- Warum sich politische Stimmen leicht nachahmen lassen
- Warum schnelles Löschen während Wahlen wichtig ist
- Was Nutzer vor dem Teilen überprüfen können
- Die wichtigsten Punkte
Die Löschungen umfassen den Zeitraum vom 1. Januar 2024 bis zum 31. Oktober 2026. Sie erfolgen, während die Regierung digitalen Plattformen bis Ende 2026 Zeit gibt, Mechanismen einzurichten, die Deepfakes und wiederholt hochgeladene Falschinformationen automatisch bearbeiten, statt die Nutzer immer wieder dazu zu zwingen, dieselben Inhalte zu melden.
Fahmi sagte, Plattformen, die den Risikominderungskodex nicht einhalten, müssten mit Strafen zwischen einer und zehn Millionen Ringgit (RM) je Verstoß rechnen. Der Kodex, der am 1. Juni in Kraft trat, verpflichtet lizenzierte Anbieter, schädliche Inhalte zu identifizieren, zu bewerten und Maßnahmen dagegen zu ergreifen, bestimmte mit künstlicher Intelligenz erzeugte oder bearbeitete Inhalte eindeutig zu kennzeichnen und leicht zugängliche Meldetools bereitzustellen.
Die Zahlen ordnen die politische Identitätsvortäuschung in ein umfassenderes Problem ein. Inhalte mit Bezug zu politischen Führungspersönlichkeiten machten etwa 8,5 Prozent der 13.883 Löschungen aus, also ungefähr jedes zwölfte Element. Die übrigen 12.705 Inhalte fielen nicht in diese Kategorie; Fahmi legte jedoch keine detaillierte Aufschlüsselung nach Themen vor.
Für Nutzer sozialer Medien ist das praktische Problem einfach: Ein vertrautes Gesicht oder eine bekannte Stimme kann in einer überzeugenden Aufnahme auftauchen, in der die betreffende Person etwas sagt oder tut, was sie nie gesagt oder getan hat. Die Reaktion der Regierung umfasst Löschaufforderungen, Vorschriften für Plattformen, strafrechtliche Ermittlungen und eine öffentliche Kampagne, die dazu aufruft, Informationen vor dem Teilen zu überprüfen.
Was Plattformen ändern müssen
Fahmi bezeichnete wiederholte Beschwerden ohne wirksame Maßnahmen der Plattformen als zentrale Herausforderung für die Regierung und die MCMC. Wird ein Upload entfernt, bleibt das Problem bestehen, wenn dieselbe falsche Aufnahme in einem anderen Beitrag oder über ein anderes Konto erneut auftaucht.
Die Frist bis Ende 2026 soll Plattformen dazu bewegen, gegen die wiederholte Verbreitung automatisch vorzugehen. Fahmi kündigte sie bei der Beantwortung einer Zusatzfrage von Afnan Hamimi Taib Azamudden an, dem Abgeordneten der Partei Perikatan Nasional für Alor Setar. Dabei ging es um die Prüfung von Deepfakes vor ihrer Veröffentlichung und die Identifizierung ihrer Urheber.
Der Risikominderungskodex gilt im Rahmen des Online-Sicherheitsgesetzes von 2025. Er verpflichtet lizenzierte Anbieter, Mechanismen zur Identifizierung schädlicher Inhalte, zur Bewertung der von ihnen ausgehenden Risiken und zur Ergreifung von Maßnahmen einzurichten. Die Kennzeichnungspflicht gilt für Bilder, Audio- und Videoaufnahmen, die mithilfe von KI erzeugt oder bearbeitet wurden und mit authentischen Inhalten verwechselt werden könnten.
Fahmi erläuterte die Kennzeichnungspflicht während der Fragestunde:
„Der Kodex verlangt außerdem, dass Bilder, Audio- oder Videoaufnahmen, die mithilfe von KI erzeugt oder bearbeitet wurden und mit authentischen Inhalten verwechselt werden könnten, eindeutig gekennzeichnet werden“, sagte er.
Eine Kennzeichnung macht Zuschauer darauf aufmerksam, dass eine Aufnahme künstlich erzeugt oder verändert wurde. Eine Löschung betrifft Inhalte, die entfernt werden sollten. Der Kodex schreibt außerdem leicht zugängliche Meldetools vor, über die Nutzer Plattformen auf schädliche Inhalte aufmerksam machen können.
Wahlkampfzeiten stehen im Kodex besonders im Fokus: Plattformen müssen in ihren Bewertungen die in diesen Phasen erhöhten Risiken berücksichtigen. Die 16. Parlamentswahl in Malaysia muss bis Februar 2028 stattfinden; damit wird die Vorbereitung vor dem Wahlkampf zu einem dringlichen Teil der Debatte.
Beschwerden stiegen vor der jüngsten Bilanz stark an
Die stellvertretende Kommunikationsministerin Teo Nie Ching hatte dem Dewan Rakyat zuvor mitgeteilt, dass die MCMC 2024 insgesamt 917 Beschwerden zu Deepfake-Inhalten erhalten habe. 2025 sei die Zahl auf 3.612 gestiegen. Bis zum 15. Juni 2026 seien weitere 7.967 eingegangen.
Die Zahl für 2025 war fast viermal so hoch wie die für 2024. Bis zum 15. Juni 2026 waren bereits mehr als doppelt so viele Beschwerden eingegangen wie im gesamten Jahr 2025. Dieser rasche Anstieg erklärt den Druck auf die Plattformen, Beschwerden schneller zu bearbeiten und wiederholte Uploads zu verhindern.
Bei den Beschwerden handelt es sich um Meldungen an die MCMC, während die jüngste Zahl der Löschungen die von Anbietern entfernten Inhalte erfasst. Eine Beschwerde, ein Upload und ein strafrechtliches Ermittlungsverfahren sind unterschiedliche Größen: Eine Aufnahme kann in vielen Beiträgen verbreitet werden, während sich ein Ermittlungsverfahren mit Handlungen im Zusammenhang mit mehreren Inhalten befassen kann.
Fahmi hatte zuvor eine Zahl von 713 entfernten Beiträgen mit Bezug zu politischen Führungspersönlichkeiten für den Zeitraum vom 1. Januar 2025 bis zum 15. September 2026 genannt. Die jüngste Gesamtzahl von 1.178 deckt einen längeren Zeitraum ab, vom Januar 2024 bis zum Oktober 2026.
Die wichtigsten Daten im Überblick:
- 1. Januar 2024: Der von der jüngsten Löschungsbilanz erfasste Zeitraum beginnt.
- 1. Juni 2026: Der Risikominderungskodex tritt in Kraft.
- 15. Juni 2026: Die Zahl der Deepfake-Beschwerden für das Jahr erreicht 7.967.
- 31. Oktober 2026: Die jüngste Bilanz schließt mit 13.883 entfernten Inhalten.
- 17. November 2026: Fahmi legt dem Parlament die Zahlen und Pflichten der Plattformen dar.
- Ende 2026: Die Plattformen sollen Mechanismen für automatische Maßnahmen eingerichtet haben.
- Februar 2028: Bis dahin muss die 16. Parlamentswahl stattfinden.
Ermittlungen wegen KI-Missbrauchs führten zu Geldstrafen und Verwarnungen
Die MCMC untersuchte 61 Fälle von KI-Missbrauch nach Paragraf 233 des Kommunikations- und Multimedia-Gesetzes von 1998. In Fahmis Zusammenfassung der Durchsetzungsmaßnahmen wurde der Zeitraum vom 1. Januar 2025 bis zum 31. Oktober 2026 angegeben; an anderer Stelle wurde er für dieselbe Zahl auch mit dem 1. Januar bis 31. Oktober 2026 angegeben.
Zehn Fälle kamen vor Gericht. Sechs davon wurden entschieden und führten zu Geldstrafen in Höhe von insgesamt 19.500 RM; vier Verfahren waren noch anhängig. Zu den noch laufenden Verfahren wurden keine Termine genannt.
In sieben weiteren Fällen wurden Vergleichsangebote in Höhe von insgesamt 755.000 RM unterbreitet, außerdem wurden 17 Verwarnungsschreiben verschickt. Ein Vergleich ist eine im Rahmen eines Durchsetzungsverfahrens angebotene finanzielle Einigung und unterscheidet sich von einer gerichtlich verhängten Geldstrafe.
In seiner ausführlicheren Erklärung ordnete Fahmi die übrigen 27 Fälle zwei Kategorien zu: laufende Ermittlungen oder Fälle, bei denen keine weiteren Maßnahmen erforderlich seien. Wie viele Fälle auf die jeweilige Kategorie entfielen, sagte er nicht.
Der Minister sagte, Paragraf 233 könne angewendet werden, wenn die Inhalte die gesetzlichen Tatbestandsmerkmale einer Straftat erfüllten. Das Online-Sicherheitsgesetz und der dazugehörige Kodex regeln die Verantwortung der Plattformen, während Ermittlungen nach dem Kommunikations- und Multimedia-Gesetz mutmaßliche Straftaten untersuchen. Damit kann die Regierung sowohl gegen schädliche Inhalte im Internet als auch gegen die dahinterstehenden Handlungen vorgehen.
Warum sich politische Stimmen leicht nachahmen lassen
Siraj Jalil, Präsident der Malaysia Cyber Consumer Association (MCCA), warnte, überzeugende politische Deepfakes ließen sich mit einem Smartphone oder einem einfachen Laptop sowie einer kurzen Aufnahme einer Kandidatin oder eines Kandidaten erstellen.
Er beschrieb, wie wenig Material und Ausrüstung ein Urheber möglicherweise benötigt:
„Jeder mit einem Smartphone oder einem einfachen Laptop, einem 15- bis 30-sekündigen Audioclip aus einer öffentlichen Rede eines Kandidaten und frei erhältlichen generativen KI-Tools kann innerhalb weniger Minuten und kostenlos oder für nur ein paar Ringgit eine Stimme klonen und Lippenbewegungen synchronisieren“, sagte er.
Beim Klonen von Stimmen wird Software eingesetzt, um nachzuahmen, wie jemand klingt. Anschließend kann eine Lippensynchronisation ein Gesicht so erscheinen lassen, als würde es die erfundenen Worte sprechen. Zuschauer erkennen möglicherweise sowohl das Gesicht als auch die Stimme wieder, wodurch die falsche Aussage vertraut und glaubwürdig wirkt.
Politiker stellten mit Reden, Livestreams und Pressekonferenzen reichlich Material bereit, sagte Siraj. Diese öffentlichen Aufnahmen böten den Urhebern von Fälschungen klare Beispiele für Stimme, Mimik und Bewegungen der Politiker.
Einige politische Clips werden zum Spaß erstellt. Andere verbreiten konkrete Falschbehauptungen. Während des Wahlkampfs zur Regionalwahl in Melaka warnte der stellvertretende Vorsitzende der Barisan Nasional, Mohamad Hasan, die Wähler vor einem KI-Video auf TikTok, in dem er fälschlicherweise jedem 25.000 RM versprach. Ein solcher Clip kann Erwartungen an finanzielle Zuwendungen oder politische Maßnahmen wecken, indem er einem Politiker ein Versprechen zuschreibt, das dieser nie gegeben hat.
Warum schnelles Löschen während Wahlen wichtig ist
Siraj zufolge reagieren Plattformen nach wie vor zu stark erst auf Meldungen, nachdem sich Videos bereits verbreitet haben. Ein Clip kann stunden- oder tagelang online bleiben, während Nutzer ihn melden und Moderatoren ihn prüfen.
Bis dahin haben Nutzer möglicherweise ihre Bildschirme abgefilmt und Kopien in geschlossene WhatsApp- oder Telegram-Gruppen weitergeleitet. Wird der ursprüngliche Beitrag gelöscht, können diese Kopien anderswo weiter kursieren.
Der MCCA-Präsident betonte, wie dringend ein Eingreifen im Wahlkampf sei:
„In einem kurzen Wahlkampf zählt jede Sekunde“, sagte er.
Siraj forderte die Plattformen auf, beim Hochladen automatisierte Erkennung und sichtbare Wasserzeichen einzusetzen, statt darauf zu vertrauen, dass Nutzer selbst angeben, ihre Beiträge seien mit KI erstellt worden. Ein Wasserzeichen ist eine sichtbare Markierung, die Zuschauern dabei hilft, synthetische Inhalte zu erkennen.
Außerdem schlug er spezielle Teams für die Reaktion auf Vorfälle während Wahlen und eine Frist von weniger als zwei Stunden vor, um bestätigte Wahlkampf-Deepfakes zu entfernen, die von der Wahlkommission, Kandidaten oder akkreditierten Faktenprüfern gemeldet wurden. Ferner forderte er ein Verbot bezahlter Werbung und von Empfehlungssystemen, die politische Inhalte verbreiten, deren Ursprung nicht überprüft wurde.
Bei diesen Maßnahmen handelt es sich um Vorschläge der MCCA. Die Regierung hat die Frist für Mechanismen zu automatischen Maßnahmen festgelegt und bestehende Pflichten aus dem Kodex beschrieben. Siraj dringt hingegen auf konkretere Vorgaben zu Geschwindigkeit, Erkennung und Verbreitung vor der nächsten Parlamentswahl.
Was Nutzer vor dem Teilen überprüfen können
Siraj riet Zuschauern, auf leichte Unschärfen an Mund, Zähnen und Kieferpartie, unnatürliches Blinzeln oder bei schnellem Sprechen ungewöhnlich glatt wirkende Zähne zu achten. Hinweise im Ton könnten eine monotone oder übermäßig rhythmische Stimme sein, insbesondere bei lokalen malaiischen Akzenten, sowie plötzliche Veränderungen der Hintergrundgeräusche.
Auch das Konto, das den Inhalt veröffentlicht, sollte beachtet werden. Deepfakes tauchten häufig auf neu angelegten, anonymen oder nicht verifizierten Seiten auf und nicht auf offiziellen Kanälen von Kandidaten oder bei etablierten Nachrichtenmedien, sagte Siraj.
Eine praktische Überprüfung besteht darin, nach derselben Ankündigung auf den offiziellen Kanälen der genannten Person zu suchen und nach einer vollständigen Aufzeichnung der Rede oder Veranstaltung zu suchen. Verspricht ein Clip Geld, kündigt eine überraschende politische Maßnahme an oder schreibt jemandem eine aufwieglerische Aussage zu, kann eine Überprüfung vor dem Weiterleiten verhindern, dass sich eine weitere Kopie verbreitet.
Die Safe-Internet-Kampagne der MCMC soll solche Gewohnheiten fördern. Fahmi sagte, sie behandle das Erkennen von Deepfakes, Identitätsvortäuschung und mithilfe von KI erzeugte Falschinformationen und diene zugleich dem übergeordneten Ziel, die digitale Kompetenz zu verbessern.
Der Kommunikationsminister beschrieb den Zweck der Kampagne im Parlament:
„Zur Prävention führt die Regierung über die MCMC auch die Safe-Internet-Kampagne durch, um das öffentliche Bewusstsein und die digitale Kompetenz zu stärken, insbesondere beim Erkennen von Deepfake-Inhalten, Identitätsvortäuschung und KI-generierten Falschinformationen“, sagte er während der Fragestunde.
Für Nutzer bedeutet das zunächst: innehalten, überprüfen und verdächtige Inhalte über die Meldetools der Plattformen melden. Von den Anbietern verlangt die nahende Frist, nicht nur auf einzelne Beschwerden, sondern auch auf wiederholte Uploads zu reagieren. Die nächste konkrete Bewährungsprobe ist, ob die automatischen Mechanismen bis Ende 2026 bereitstehen.
Die wichtigsten Punkte
- Plattformen entfernten von Januar 2024 bis Oktober 2026 auf MCMC-Aufforderung nach Beschwerden aus der Öffentlichkeit 13.883 Deepfake-Inhalte.
- 1.178 Inhalte, rund 8,5 Prozent der Gesamtzahl, betrafen politische Führungspersönlichkeiten.
- Lizenzierte Anbieter müssen relevante KI-Inhalte kennzeichnen, schädliche Inhalte bewerten und leicht zugängliche Meldetools bereitstellen.
- Plattformen haben bis Ende 2026 Zeit, Mechanismen für automatische Maßnahmen gegen Deepfakes und wiederholt hochgeladene Falschinformationen einzurichten.
- Die MCMC untersuchte 61 Fälle von KI-Missbrauch; sechs Gerichtsentscheidungen führten zu Geldstrafen in Höhe von insgesamt 19.500 RM.
- Vier Gerichtsverfahren waren noch anhängig, während in 27 Fällen die Ermittlungen noch liefen oder keine weiteren Maßnahmen vorgesehen waren.
- Die MCCA fordert schnellere Löschungen von Inhalten im Wahlkampf und eine bessere Erkennung vor der bis Februar 2028 fälligen Parlamentswahl.






