Gefälschte Konten und Wählerprofile beschäftigen das Parlament
Die malaysische Kommunikationsaufsicht fordert von Anthropic technische Details und Belege, nachdem das Unternehmen erklärt hatte, seine Claude-KI-Modelle hätten beim Aufbau einer kommerziellen Plattform zur politischen Manipulation mitgewirkt, die auf malaysische Wähler abzielte. Die mutmaßliche Operation verband rund 1.000 gefälschte X-Konten, ein erfundenes Nachrichtenportal und Wählerprofile für alle 222 Wahlkreise des Parlaments.
Inhalt
- Gefälschte Konten und Wählerprofile beschäftigen das Parlament
- Welche Informationen Malaysia von Anthropic verlangt
- Ein kommerzieller Dienst auf Grundlage malaysischer Wählerdaten
- Wie die gefälschten Konten echt wirken sollten
- Malaysia Pulse vermischte umgeschriebene Nachrichten mit erfundenen Vorwürfen
- Warum die MCMC selbst eine Beteiligung dementierte
- Von den Enthüllungen im September zu den Antworten im Parlament
- Bestehende Gesetze und ein eigenes KI-Gesetz
- KI beschleunigt die Produktion, Plattformen liefern das Publikum
- Die wichtigsten Punkte
Das Kommunikationsministerium erklärte in einer schriftlichen Antwort an das Parlament vom 17. November, die Malaysian Communications and Multimedia Commission (MCMC) werde die Belege prüfen, bevor sie über weitere Schritte entscheide. Dabei könnten bestehende Kommunikations- und Online-Sicherheitsgesetze angewendet werden. Das Digitalministerium arbeitet unterdessen an einem gesonderten Gesetzentwurf zur Regulierung künstlicher Intelligenz.
Anthropic brachte die Operation mit BBS Bilisim Teknolojileri in Verbindung, einem Technologieunternehmen mit Sitz in Istanbul in der Türkei. Das Unternehmen bestritt am 11. September eine Beteiligung. Anthropic erklärte, die beteiligten Claude-Konten gesperrt und Maßnahmen ergriffen zu haben, um einen weiteren Missbrauch zu verhindern.
Der Fall führt zwei unterschiedliche Größenordnungen zusammen: ein System, das darauf ausgelegt war, Wähler im ganzen Land zu profilieren, und eine Operation, deren tatsächliche Reichweite offenbar begrenzt war. Anthropic zufolge fand das Unternehmen keine Belege dafür, dass die Kampagne über ihr künstliches Netzwerk hinaus echte Online-Communities erreichte.
Für malaysische Wähler ging die mutmaßliche Täuschung über irreführende Beiträge hinaus. Die Plattform konnte erfundene Konten wie gewöhnliche Menschen, umgeschriebene Artikel wie unabhängigen Journalismus und fingierte Vorwürfe wie Erkenntnisse aus nachrichtendienstlichen Ermittlungen erscheinen lassen. Malaysias vordringliche Aufgabe besteht darin, festzustellen, wer das System betrieben hat und welche Maßnahmen nach geltendem Recht möglich sind.
Welche Informationen Malaysia von Anthropic verlangt
Die MCMC hat detaillierte technische Erläuterungen und Belege zu der mutmaßlichen Operation angefordert. Die Antwort vom 17. November bezog sich auf eine Anfrage von Datuk Seri Dr. Ronald Kiandee, dem Abgeordneten des Bündnisses Perikatan Nasional für Beluran, zu den Verantwortlichen und zu Maßnahmen gegen gefälschte Konten und erfundene Nachrichtenportale.
Das Kommunikationsministerium erläuterte, warum es vor einer Entscheidung über mögliche Durchsetzungsmaßnahmen weitere Informationen einholen wolle:
Die MCMC fordert von Anthropic weitere Informationen und Erläuterungen zu dem Bericht an, um sicherzustellen, dass jede Bewertung und jede Folgemaßnahme auf ausreichenden Informationen und Belegen beruht.
Auch Kommunikationsminister Datuk Fahmi Fadzil äußerte sich dazu in einer Antwort im Parlament an Ahmad Fadhli Shaari, den Abgeordneten von Perikatan Nasional für Pasir Mas. In der Anfrage ging es um Maßnahmen der Regierung, um ausländische Wahlbeeinflussung über Claude und andere KI-Anwendungen zu untersuchen und zu verhindern.
Das Ministerium erklärte, an den Folgemaßnahmen könnten Durchsetzungs- und Sicherheitsbehörden, digitale Plattformen sowie andere relevante Stellen beteiligt sein. Der erklärte Ansatz sieht vor, Belege zu sammeln, den Sachverhalt im Zuständigkeitsbereich der MCMC zu prüfen und anschließend über eine angemessene Reaktion zu entscheiden.
Ein kommerzieller Dienst auf Grundlage malaysischer Wählerdaten
Anthropic beschrieb die Plattform als Dienst, der Kunden Möglichkeiten zur politischen Einflussnahme verkaufte. Bei diesem Geschäftsmodell bezahlt ein Auftraggeber einen Betreiber für Werkzeuge oder Aktivitäten, die darauf abzielen, die öffentliche Diskussion zu beeinflussen, anstatt die nötige Infrastruktur selbst aufzubauen.
Nach Angaben des Unternehmens nutzte das System Volkszählungsdaten, Wahldaten und Millionen von Wählerdatensätzen, um Profile für alle 222 Wahlkreise Malaysias zu erstellen. Diese Profile sollten lokale politische und gesellschaftliche Spaltungen erfassen, darunter Fragen zu ethnischer Zugehörigkeit, Religion und Königshaus.
Ein Wahlkreisprofil bündelt Informationen über ein Wahlgebiet. In dieser Operation habe Claude laut Anthropic dabei geholfen, diese Informationen in Werkzeuge zur gezielten Ansprache umzuwandeln, und die Infrastruktur unterstützt, über die Inhalte zur Einflussnahme verbreitet wurden. Durch diese Kombination konnten Betreiber unterschiedliche Botschaften für verschiedene Bevölkerungsgruppen vorbereiten.
In seiner Bedrohungsanalyse beschrieb Anthropic, wie sich der Dienst präsentierte:
Die Plattform gab sich als Anbieter von Werkzeugen für defensive Cyberaufklärung und die Bekämpfung von Desinformation aus.
Anthropic zufolge führte die Untersuchung stattdessen zu BBS Bilisim Teknolojileri und zum Verkauf von Zugang zu Möglichkeiten der Einflussnahme. Aufgrund des Dementis des türkischen Unternehmens sind die technischen Belege, welche die MCMC angefordert hat, für Malaysias Bewertung von zentraler Bedeutung.
Wie die gefälschten Konten echt wirken sollten
Laut Anthropic verwaltete die Plattform rund 1.000 gefälschte Konten auf X. Sie verfügte über Mechanismen, die diese Konten etabliert und authentisch erscheinen lassen sollten, bevor sie zur politischen Einflussnahme eingesetzt wurden.
Anthropic beschrieb Versuche, Cookies und Internetprotokolladressen zu erneuern, um einer Entdeckung zu entgehen. Cookies sind kleine Informationspakete, die während der Online-Aktivität gespeichert werden. Eine Internetprotokolladresse identifiziert eine Verbindung in einem Netzwerk. Durch die Veränderung dieser Merkmale kann ein Betreiber Verbindungen zwischen Konten verschleiern.
Über das Dashboard konnten Nutzer auch künstliche Aufrufe für ein bestimmtes Konto anfordern. Anthropic zufolge stellte das Unternehmen eine Anfrage über eine Million künstliche Aufrufe fest, die dem Konto des amtierenden malaysischen Premierministers zugutekommen sollten. Der Kunde hinter der Anfrage blieb unbekannt. Anthropic stellte keine Verbindung zu Premierminister Anwar Ibrahim oder seinem Büro fest. Die vom eigenen Werkzeug des Betreibers angezeigten Interaktionszahlen waren nicht verifiziert.
Saifuddin Ahmed, Experte für neue Medien an der Wee Kim Wee School of Communication and Information der Nanyang Technological University, erläuterte, warum die mutmaßlichen Aktivitäten Manipulation darstellten:
Es ging daher nicht einfach darum, Wähler wirksamer anzusprechen, sondern darum, eine künstliche, manipulierte öffentliche Diskussion zu erzeugen und zugleich zu verschleiern, wer dahintersteckte.
Malaysia Pulse vermischte umgeschriebene Nachrichten mit erfundenen Vorwürfen
Anthropic zufolge betrieb die Operation außerdem ein erfundenes Nachrichtenportal namens Malaysia Pulse sowie einen damit verbundenen YouTube-Kanal. Die Website kopierte seriöse Berichte aus Malaysia, ließ Claude diese wiederholt umschreiben und veröffentlichte die entstandenen Artikel unter erfundenen Autorenangaben.
Malaysia Pulse veröffentlichte auch Material von TV BRICS, Xinhua, Sputnik/RIA und CGTN erneut. Anthropic zufolge wurden die Hinweise auf die ursprünglichen Medien entfernt, sodass das Material wie unabhängige Berichterstattung aus Malaysia wirkte. Dadurch entstand bei den Lesern ein falscher Eindruck davon, wer die Nachrichten produziert hatte und woher sie stammten.
Zusätzlich zu den Artikeln nutzten die Betreiber Claude, um gefälschte nachrichtendienstliche Dossiers mit Vorwürfen gegen einen nicht namentlich genannten Oppositionspolitiker und zivilgesellschaftliche Organisationen zu erstellen. Ein Dossier ist eine Sammlung von Informationen über eine Person oder Organisation. In diesem Fall verlieh die Aufmachung erfundenen Behauptungen den Anschein dokumentierter Recherchen.
Anthropic bezeichnete die Vorwürfe unmissverständlich:
Diese Vorwürfe waren von den Akteuren frei erfunden.
Claude lehnte einige Anfragen ganz oder teilweise ab, unter anderem nachdem das System ein Dossier als für politische Verleumdung bestimmt erkannt hatte. Anthropic zufolge formulierte der Betreiber die Anfragen anschließend um, um weiterhin dieselben Möglichkeiten zu nutzen. Der Fall zeigt, wie schwierig es in der Praxis ist, ein missbräuchliches Vorhaben zu erkennen, wenn einzelne Anfragen immer wieder anders formuliert werden.
Warum die MCMC selbst eine Beteiligung dementierte
Anthropic zufolge hatte der Betreiber versucht, einen Auftrag von der MCMC zu erhalten. Das Unternehmen erklärte, es habe keine Belege dafür gefunden, dass der Versuch erfolgreich war. Am 11. September bestritt die MCMC eine Beteiligung an Aktivitäten oder Vereinbarungen der beschriebenen Art.
Die Aufsichtsbehörde erläuterte ihre Position in einer Stellungnahme:
Zur Klarstellung: Aktivitäten der im Bericht beschriebenen Art gehören weder zu den Aufgaben noch zum Mandat der MCMC. Die MCMC beteiligt sich nicht an solchen Aktivitäten oder Vereinbarungen.
Die MCMC erklärte, sie prüfe die Vorwürfe und fordere weitere Informationen an, um den Sachverhalt festzustellen und den Kontext zu verstehen. Der Schutz der Öffentlichkeit und die Bekämpfung von Schäden im Internet gehörten weiterhin zu ihren zentralen Aufgaben.
Datuk Seri Azalina Othman Said, Ministerin im Amt des Premierministers mit Zuständigkeit für Recht und institutionelle Reformen, forderte eine umfassende und unabhängige Untersuchung. Damit stellte sie die Prüfung der Operation neben die eigene Beweiserhebung der Aufsichtsbehörde.
Von den Enthüllungen im September zu den Antworten im Parlament
Die öffentliche Reaktion entwickelte sich über Unternehmensmitteilungen, Dementis und parlamentarische Anfragen. Die wichtigsten Schritte waren:
- September: Anthropic legte in seiner Bedrohungsanalyse die mutmaßliche Operation zur gezielten Ansprache in Malaysia offen und erklärte, die beteiligten Claude-Konten deaktiviert zu haben.
- 11. September: BBS Bilisim Teknolojileri bestritt eine Beteiligung. Die MCMC dementierte separat, an den beschriebenen Aktivitäten beteiligt gewesen zu sein, und erklärte, sie prüfe die Vorwürfe.
- 3. November: Eine schriftliche Antwort im Parlament auf eine Anfrage von Ahmad Fadhli Shaari erläuterte die Anforderung technischer Erläuterungen und den möglichen Rückgriff auf bestehende Gesetze.
- 17. November: Das Kommunikationsministerium bekräftigte in seiner Antwort an Ronald Kiandee, dass Belege gesammelt würden.
Mehrere zentrale Einzelheiten sind weiterhin nicht bekannt: Wer die Aktivitäten in Malaysia bezahlt hat, in welchem genauen Zeitraum sie stattfanden, ob sie mit einer bestimmten Wahl zusammenhingen, ob Anthropic auf die Anfragen der MCMC geantwortet hat und ob die Polizei formelle strafrechtliche Ermittlungen aufgenommen hat. Für die Einführung des vorgeschlagenen KI-Gesetzes wurde kein Termin genannt.
Anthropics Analyse vom September befasste sich mit verschiedenen Formen des Missbrauchs von Claude, darunter Cyberoperationen, Überwachung, Betrugsmaschen und politische Einflussnahme. Bei den Fällen politischer Einflussnahme beschrieb das Unternehmen Akteure, die Zielgruppen auf sechs Kontinenten erreichen wollten, darunter Regierungen, staatsnahe Medien und private Firmen, die Einflussnahme als Dienstleistung anbieten.
Bestehende Gesetze und ein eigenes KI-Gesetz
Das Kommunikationsministerium nannte das Kommunikations- und Multimedia-Gesetz von 1998, das Online-Sicherheitsgesetz von 2025 und weitere anwendbare Gesetze als mögliche Grundlage für aufsichtsrechtliche oder behördliche Maßnahmen. Jede Reaktion hinge von den Belegen und der Zuständigkeit der MCMC ab.
Der vorgeschlagene Gesetzentwurf zur Regulierung künstlicher Intelligenz verfolgt einen anderen Zweck. Das Digitalministerium arbeitet an Vorschriften zu Rechenschaftspflicht, Risikomanagement und den Verantwortlichkeiten derjenigen, die KI-Systeme entwickeln und einsetzen. Einfach gesagt geht es in dem Vorschlag darum, wer die Risiken eines KI-Produkts beherrschen muss und wer zur Verantwortung gezogen wird, wenn Pflichten vernachlässigt werden.
Die beiden Ansätze würden unterschiedliche Aspekte des Problems behandeln. Bestehende Gesetze bieten der Regierung zufolge den Weg, um jetzt auf die mutmaßlichen Aktivitäten zu reagieren. Das geplante Gesetz würde weiter gefasste Verantwortlichkeiten für die Entwicklung und Nutzung von KI-Systemen festlegen.
Eine Operation, die einem Unternehmen außerhalb Malaysias zugeschrieben wird, erfordert zudem eine Zusammenarbeit, die über eine einzelne Aufsichtsbehörde hinausgeht. Die geplante Koordination des Ministeriums mit Sicherheitsbehörden, Ermittlern und Plattformbetreibern trägt dem Umstand Rechnung, dass relevante Belege an verschiedenen Stellen liegen können: beim KI-Dienst, in den sozialen Netzwerken, beim Betreiber und bei möglichen Kunden.
KI beschleunigt die Produktion, Plattformen liefern das Publikum
Anthropic zufolge entdeckte das Unternehmen das Konto mithilfe interner Systeme, entzog den Zugang und nutzte die bei der Untersuchung gewonnenen Informationen, um die umfassendere Operation nachzuzeichnen. Trotz des großen Umfangs der Infrastruktur fand das Unternehmen keine Belege dafür, dass die Aktivitäten echte Online-Communities in nennenswertem Umfang erreichten.
Katie Harbath, frühere Meta-Mitarbeiterin mit Zuständigkeit für Wahlen weltweit und heute Leiterin der Technologieberatung Anchor Change, erläuterte die Rolle von KI bei der Produktion von Inhalten zur Einflussnahme:
KI kann das erheblich verstärken: Man kann viel mehr Inhalte erstellen, die stärker personalisiert sind – schneller und kostengünstiger.
Harbath zufolge benötigen Betreiber weiterhin einen Verbreitungsweg, derzeit also soziale Medien. Der Fall Malaysia veranschaulicht beide Teile dieses Prozesses: Claude half beim Aufbau von Inhalten und Werkzeugen, während gefälschte Konten, eine Website und ein YouTube-Kanal die Materialien zu den Lesern bringen sollten.
Ähnliche Bedenken sind auch andernorts in Südostasien aufgekommen. OpenAI sperrte Konten, die erfundene Kommentare zur philippinischen Politik generierten, darunter Kommentare zur Unterstützung von Präsident Ferdinand Marcos Jr. Bei der indonesischen Wahl 2024 wurde eine KI-generierte Zeichentrickfigur von Prabowo Subianto populär und trug dazu bei, sein Image als starker Mann abzumildern.
Die mutmaßliche Operation in Malaysia konzentrierte sich auf besonders sensible gesellschaftliche Spaltungen. Bridget Welsh vom Asia Research Institute Malaysia der University of Nottingham warnte, solche Aktivitäten verschärften die politische Polarisierung. Dr. Ben Loh, Dozent für Medienwissenschaften an der Monash University Malaysia, beschrieb außerdem, wie KI-Inhalte bestehende Feindseligkeit gegenüber Rohingya-Flüchtlingen verstärken.
Der konkrete nächste Schritt für Malaysia ist die Prüfung der Belege. Anthropic hat die identifizierten Claude-Konten gesperrt. Die MCMC muss nun feststellen, ob die erhaltenen Informationen Maßnahmen gegen die Personen oder Organisationen hinter der mutmaßlichen Operation rechtfertigen.
Die wichtigsten Punkte
- Die MCMC fordert von Anthropic technische Erläuterungen und Belege an, bevor sie über weitere Schritte entscheidet.
- Anthropic beschrieb rund 1.000 gefälschte X-Konten, die Website Malaysia Pulse und die gezielte Ansprache von Wählern in allen 222 Wahlkreisen des Parlaments.
- BBS Bilisim Teknolojileri bestritt eine Beteiligung, nachdem Anthropic das Unternehmen mit der Plattform in Verbindung gebracht hatte.
- Die MCMC dementierte eine Beteiligung an den Aktivitäten. Anthropic zufolge gab es keine Belege dafür, dass der gemeldete Versuch, einen Auftrag von der Aufsichtsbehörde zu erhalten, erfolgreich war.
- Anthropic sperrte die identifizierten Claude-Konten und fand keine Belege für eine nennenswerte Reichweite in echten Online-Communities.
- Malaysia verwies auf bestehende Kommunikations- und Online-Sicherheitsgesetze und arbeitet zugleich an einem Gesetz zur Regulierung künstlicher Intelligenz.






