Nordkoreanische Hacker setzen KI für Phishing-Angriffe auf das südkoreanische Militär ein

Ein KI-Kniff in einem vertrauten Kimsuky-Muster

Die nordkoreanische Gruppe Kimsuky setzte künstliche Intelligenz ein, um eine Phishing-Kampagne mit überzeugenden Abbildungen südkoreanischer Dienstausweise aufzuwerten. Das geht aus einer detaillierten Analyse eines südkoreanischen Cybersicherheitsunternehmens hervor. Die Ködernachrichten baten die Empfänger, Entwürfe für Dienstausweise ziviler Mitarbeiter zu prüfen – eine Anfrage, die innerhalb einer Verteidigungsbehörde routinemäßig wirken würde. Die angehängten Bilder sahen wie echte Ausweise aus. Den Ermittlern zufolge wurden die Grafiken jedoch von einem generativen KI-Modell erstellt und zusammen mit Schadsoftware verbreitet, die die Kontrolle über den Computer eines Opfers übernehmen konnte.

Die E-Mails gaben sich als eine mit der Ausstellung von Ausweisen beauftragte Verteidigungsinstitution aus. Um die Empfänger in Sicherheit zu wiegen, fügten die Angreifer PNG-Bilder bei, die Entwürfen für Ausweiskarten ähnelten. In derselben Zustellkette befanden sich Dateien, die eine Hintertür aktivierten, sobald ein Ziel mit den Inhalten interagierte. Die Bilder wurden wahrscheinlich erstellt, indem ein kommerzielles KI-System aufgefordert wurde, zu Testzwecken Entwürfe statt echter Ausweise anzufertigen – eine Technik, mit der sich automatische Schutzmechanismen umgehen lassen.

Auch die Absenderadresse ahmte eine vertrauenswürdige Militärdomain nach. Die Ermittler beobachteten gefälschte Domains wie .mli.kr, die der offiziellen südkoreanischen Endung für Verteidigungsbehörden .mil.kr ähneln sollten, um Empfänger zu täuschen, die nach vertrauten Merkmalen Ausschau hielten. Kleine Änderungen dieser Art sind eine verbreitete Taktik des Social Engineering und beim schnellen Durchsehen eines vollen Posteingangs schwer zu bemerken.

Die Kampagne wurde erstmals Mitte Juli entdeckt. Ihr gingen frühere Aktivitäten voraus, bei denen dieselbe Gruppe einen Köder nach dem ClickFix-Muster einsetzte und dieselbe Schadsoftwarefamilie verbreitete. Die dabei gewonnenen Erkenntnisse scheinen wiederverwendet worden zu sein; nun kamen KI-generierte Grafiken hinzu, um die Geschichte glaubwürdiger zu machen. Zu den Zielen gehörten eine militärnahe Organisation sowie Forschende, Journalisten und Aktivisten mit Schwerpunkt Nordkorea.

Wie funktionierte der Phishing-Angriff?

Der Köder war einfach. Die Empfänger erhielten eine Nachricht mit der Bitte, kurz Entwürfe für Ausweiskarten zu prüfen. Ein ZIP-Archiv oder ein Download-Link lieferte ein Bild und ein oder mehrere Skripte. Nach dem Öffnen führte die Angriffskette Code aus, der den Computer mit der Infrastruktur der Angreifer verband, weitere Komponenten herunterlud und die Fernsteuerung einrichtete. Das Bild sollte die Geschichte einer harmlosen Designprüfung glaubhaft machen.

KI-Schutzmechanismen mit Prompt-Injection umgehen

Die meisten gängigen KI-Tools lehnen es ab, amtliche Ausweise zu erstellen, da das Nachbilden solcher Dokumente illegal ist und Betrug erleichtert. In diesem Fall scheinen die Angreifer ihre Prompts als Entwürfe für ein internes Modell dargestellt zu haben. Dadurch kann ein Modell die Anfrage als harmlos einstufen. Es handelt sich um eine Form von Prompt-Injection oder Jailbreaking: Dabei lenkt ein Nutzer ein Modell mit einer veränderten Formulierung um seine Regeln herum.

Analysten, die eines der gefälschten Bilder untersuchten, berichteten, dass ein Deepfake-Detektor mit einer Wahrscheinlichkeit von 98 Prozent auf einen KI-generierten Inhalt schloss. In mindestens einem Beispiel verwiesen die Bildmetadaten auf GPT 4o und ChatGPT. Das deutet darauf hin, dass beim Testen oder Erstellen eine Bildgenerierungspipeline von OpenAI verwendet wurde. Je mehr das Bild wie ein routinemäßiger Ausweisentwurf wirkte, desto eher konnte ein Mitarbeiter in Eile die Anfrage für legitim halten.

Verbreitung der Schadsoftware und Angriffskette

Die Art der Verbreitung variierte. In einem beobachteten Fall enthielt eine ZIP-Datei eine Verknüpfung, die wie ein gewöhnliches Dokument aussah. Beim Start führte sie einen PowerShell-Befehl aus, der einen Remote-Server kontaktierte, eine Hintertür abrief und die PNG-Täuschdatei mit dem Ausweis herunterlud. In einem anderen Fall wurde zusammen mit dem Bild eine Batchdatei namens LhUdPC3G.bat ausgeführt, die schädliche Aktivitäten einleitete, darunter das Einrichten eines dauerhaften Zugangs sowie das Ermöglichen von Datendiebstahl und Fernsteuerung.

Es handelte sich um gezielte Phishing-E-Mails, bei deren Gestaltung die Angreifer auf Details achteten. Einige Archive waren mit einem teilweise unkenntlich gemachten echten Namen des Empfängers personalisiert, um Vertrauen zu schaffen und ihn zum Öffnen des Anhangs zu bewegen. Die gefälschten Ausweisbilder, die vertraute Art der Anfrage und die dem echten Absender ähnlichen Domain zusammengenommen sollten die Empfänger ihre Skepsis überwinden lassen.

Wen Kimsuky ins Visier nimmt und warum

Regierungsbehörden und private Forschende verfolgen Kimsuky seit Jahren als nordkoreanische Einheit zur Informationsbeschaffung. Der Gruppe wird zugeschrieben, politische, militärische und technologische Informationen zu sammeln, die den staatlichen Prioritäten entsprechen. Zu ihren Zielen zählen häufig Regierungsbehörden, verteidigungsnahe Institutionen, Denkfabriken, akademische Forschende, Journalisten und Menschenrechtsorganisationen mit Schwerpunkt Nordkorea.

Im Juni dokumentierten Forschende E-Mails nach dem ClickFix-Muster, die Nutzer dazu bewegen sollten, einen Button zu drücken, um ein angebliches Problem zu beheben. Die Kampagne im Juli griff auf dieselbe Schadsoftware und viele der gleichen Techniken zurück und ergänzte sie um KI-generierte Designentwürfe, um den Köder glaubwürdiger zu machen. Es handelte sich nicht um einen massenhaften Versand, sondern um eine sorgfältig geplante, gezielte Operation, die Zugang zu bestimmten Netzwerken und Postfächern erlangen sollte.

Die Zuordnung beruhte auf einer Kombination technischer und kontextbezogener Belege, darunter gemeinsam genutzter Schadcode, die Wiederverwendung von Infrastruktur, Sprachmuster und die Auswahl der Ziele. Diese Indikatoren passen zu Aktivitäten, die zuvor Kimsuky zugeschrieben wurden. Das Vorgehen entspricht einer langjährigen Mission, politische Kreise zu infiltrieren, Daten zu sammeln und sich in Institutionen festzusetzen, die Nordkorea genau beobachten.

Die Identitätsprüfung durch eine Stelle vorzutäuschen, die Ausweise ausstellt, nutzt einen vertrauten Geschäftsprozess aus. Ausweisdokumente werden oft gemeinsam geprüft; dabei geht es um den Austausch zu Schriftarten, Fotos und Layout. Außerdem vermitteln sie eine gewisse amtliche Autorität. Dadurch wirkt die Bitte, einen Entwurf zu prüfen, alltäglich.

Ein wachsendes Muster: KI-Missbrauch durch nordkoreanische Akteure

Die Phishing-Operation fügt sich in ein größeres Muster ein. Im August berichtete ein großer KI-Entwickler, nordkoreanische Agenten gestört zu haben, die sein Modell nutzten, um falsche Identitäten zu erstellen, sich bei US-Technologieunternehmen auf Stellen im Homeoffice zu bewerben und nach ihrer Einstellung sogar technische Aufgaben zu erledigen. Der Bericht schilderte außerdem, wie mit diesen Aktivitäten verknüpfte Konten gesperrt und die Erkennungssysteme des Unternehmens für den Umgang mit böswilliger Nutzung verbessert wurden.

Sicherheitsbriefings in Südkorea und den Vereinigten Staaten warnen, dass nordkoreanische Akteure KI-Tools einsetzen, um flüssige E-Mails zu verfassen, Lebensläufe und Anschreiben zu erstellen, Code zu entwerfen und Personas mit professionell wirkenden Profilfotos anzulegen. Dadurch kann ein kleiner Akteur mit der Professionalität eines viel größeren Teams auftreten. Die Einstiegshürde ist gesunken. Auch Personen mit begrenzten technischen Kenntnissen können sich nun von KI anleiten lassen, Schadsoftwaremodule schneller entwerfen, Inhalte in muttersprachlich klingendes Koreanisch oder Englisch übersetzen und visuelle Inhalte erstellen, die einer kurzen Prüfung standhalten.

Analysten, die sich mit digitalen Konflikten auf der koreanischen Halbinsel befassen, haben von einer Zunahme der Angriffe auf südkoreanische Institutionen berichtet. Öffentliche Quellen nannten 2023 täglich Millionen Angriffsversuche auf Regierungssysteme, von denen viele auf nordkoreanische Aktivitäten zurückgeführt wurden. Separate Berichte der Vereinten Nationen und Untersuchungen der Branche brachten nordkoreanische Einheiten mit großen Kryptowährungsdiebstählen in Verbindung, mit denen strategische Programme finanziert werden. Gezielte Phishing-Angriffe, KI-gestützter Bewerbungsbetrug und Finanzdiebstahl sind Teil derselben Strategie, trotz Sanktionen Informationen zu sammeln und Einnahmen zu erzielen.

Auch in China ansässige Akteure und andere mit Staaten verbundene Gruppen experimentieren mit generativer KI. Im Mittelpunkt steht hier jedoch die rasche Übernahme durch nordkoreanische Einheiten für Spionage und illegale Finanzgeschäfte. Die Grenze zwischen einem Phishing-Kit und einem KI-gestützten Content-Studio verschwimmt. Was früher Teams aus Designern, Übersetzern und Entwicklern erforderte, lässt sich heute mit Prompts und einer Handvoll Open-Source-Tools zusammenstellen.

Warum KI Social Engineering überzeugender macht

Generative KI kann auf Abruf ausgefeilte Inhalte erstellen. Beim Phishing bedeutet das, dass Bilder, Texte und Code mit wenig Aufwand auf eine Zielgruppe zugeschnitten werden können. Ein glaubwürdiger Ausweisentwurf oder ein Briefkopf mit Unternehmenslogo senkt die Wachsamkeit der Leser. Ein Modell, das formelles Amts-Koreanisch schreiben, passende Abkürzungen einstreuen und einen respektvollen Ton wahren kann, erzeugt Nachrichten, die echt aussehen und klingen.

Sprachmodelle sind auch unermüdliche Schreibassistenten. Sie korrigieren die Grammatik, passen den Stil einer Institution an und sorgen in mehreren E-Mails für einen einheitlichen Ton. Angreifer können für unterschiedliche Rollen Varianten derselben Nachricht anfordern. Ein Modell kann einen Entwurf erstellen, der wie eine routinemäßige Mitteilung an eine Personalleitung wirkt, und einen weiteren, der sich wie ein technisches Memo an eine IT-Leitung liest.

Auf technischer Seite helfen Programmierassistenten weniger erfahrenen Akteuren dabei, Skripte und Schadsoftware zusammenzufügen. Modelle erklären Fehler, schlagen Korrekturen vor und erstellen funktionierende Beispiele. Wird das missbraucht, beschleunigt es die Entwicklung von Schadsoftware und senkt die Einstiegshürde. In Verbindung mit Textgenerierung und Übersetzung kann ein einzelner Akteur mehrsprachige Kampagnen durchführen, für die früher ein ganzes Team nötig gewesen wäre.

Ein weiterer Baustein ist das Erstellen von Identitäten. Modelle können dabei helfen, berufliche Werdegänge zu erfinden, formatierte Lebensläufe zu erstellen und Anschreiben auf Stellenausschreibungen abzustimmen. Bildtools erzeugen Profilfotos, die einer kurzen Prüfung standhalten. Zusammengenommen erleichtern diese Fähigkeiten Angriffe durch Manipulation geschäftlicher E-Mail-Kommunikation und langfristige Infiltration – zumindest so lange, bis menschliche und technische Schutzmaßnahmen Schritt halten.

Abwehr, Erkennung und politische Maßnahmen

Südkorea hat seine nationale Cybersicherheitsstrategie aktualisiert und dabei internationale Zusammenarbeit, den Einsatz fortschrittlicher Technologien und stärkere Abwehrmaßnahmen in den Mittelpunkt gestellt. Der Plan sieht KI-gestützte Erkennung zur Echtzeitüberwachung, einen intensiveren Informationsaustausch mit Partnern und eine höhere Widerstandsfähigkeit kritischer Infrastrukturen vor. Seoul hat außerdem eine engere Abstimmung mit den Vereinigten Staaten und Japan angestrebt, um politische Ansätze aufeinander abzustimmen und gemeinsame Übungen zur Reaktion auf Sicherheitsvorfälle durchzuführen.

Organisationen können Angriffe mit ähnlich aussehenden Domains und Deepfake-Bildern durch eine Kombination aus Abläufen, Schulungen und Technologie abschwächen. Am Anfang steht die Überprüfung. Anfragen zu Zugangsdaten oder Ausweisdokumenten sollten einem dokumentierten Verfahren folgen, einschließlich einer Kontaktaufnahme mit einer bekannten offiziellen Stelle über einen zweiten Kommunikationsweg. Mitarbeiter sollten lernen, Domains Buchstabe für Buchstabe zu prüfen und vor dem Klicken auf Links mit dem Mauszeiger darüberzufahren.

Technische Schutzmaßnahmen helfen, die Ausführung zu verhindern. E-Mail-Gateways sollten Nachrichten mit verschachtelten Archiven unter Quarantäne stellen und riskante Dateitypen wie Verknüpfungen, ISO-Abbilder und Skripte blockieren. PowerShell sollte nach Möglichkeit deaktiviert oder eingeschränkt werden. Anwendungserlaubnislisten können nicht genehmigte ausführbare Dateien verhindern. Endpoint Detection and Response kann schädliche PowerShell-Aufrufe und ungewöhnliche ausgehende Verbindungen erkennen. Die Netzwerküberwachung kann Alarm schlagen, wenn kurz nach dem Öffnen einer E-Mail neue Verbindungen zu unbekannten Domains hergestellt werden.

Die Prüfung von Bewerbern und Anbietern wird zu einem immer wichtigeren Teil der Cybersicherheit. Bei Verfahren zur Einstellung von Mitarbeitern im Homeoffice sollten strenge Identitätsprüfungen mit Live-Video, eine Überprüfung durch vertrauenswürdige Dritte und eine unabhängige Prüfung der Referenzen vorgesehen sein. Systeme, die sensible Daten verarbeiten, sollten Zugriffsrechte nach dem Prinzip der geringsten Berechtigung und eine kontinuierliche Überprüfung erzwingen. Regelmäßige Audits können Auffälligkeiten wie ungewöhnliche Anmeldeorte und Aktivitäten außerhalb der üblichen Arbeitszeiten aufdecken.

Rechtliche und ethische Leitplanken für KI

Der Vorfall macht ein Spannungsfeld bei der Einführung von KI deutlich. Unternehmen profitieren davon, wenn Mitarbeiter KI zum Entwerfen von Dokumenten, Schreiben von Code und Verarbeiten von Bildern nutzen können. Dieselbe Zugänglichkeit kann von Gegnern missbraucht werden. KI-Entwickler haben Sicherheitssysteme eingeführt, die schädliche Inhalte ablehnen und auf Missbrauch achten. Angreifer versuchen jedoch, diese Maßnahmen mit raffinierten Prompts zu umgehen. Die Sicherheitsgemeinschaft reagiert darauf, indem sie Hinweise auf Missbrauch austauscht, missbräuchliche Konten entfernt und das Modellverhalten so verbessert, dass es Manipulationsversuchen besser widersteht.

Auch politische Vorgaben und Beschaffungsentscheidungen spielen eine Rolle. Behörden und Auftragnehmer sollten von Anbietern von KI-Systemen Prüfprotokolle, Meldewege für Missbrauch und Aktualisierungen zur Härtung der Modelle verlangen. Klare interne Regeln für den KI-Einsatz können verhindern, dass versehentlich riskante Inhalte entstehen. Sicherheitsteams sollten Modelle mit gängigen Jailbreak-Prompts testen und sichere Alternativen sowie vorab genehmigte Abläufe für geschäftliche Anforderungen wie Dokumentgestaltung oder Codeprüfung anbieten.

Das Wichtigste

• Kimsuky setzte in einer gezielten Phishing-Kampagne im Juli KI-generierte Bilder südkoreanischer Militärausweise als Köder ein.
• Die E-Mails baten die Empfänger, Ausweisentwürfe zu prüfen, und stammten von einer Domain, die mit .mli.kr die offizielle Endung .mil.kr nachahmte.
• Ermittler fanden in mindestens einem Bild Metadaten mit Verweisen auf GPT 4o und ChatGPT. Ein Detektor stufte ein gefälschtes Bild mit einer Wahrscheinlichkeit von 98 Prozent als KI-generiert ein.
• Die Angriffskette umfasste ZIP-Archive und Skripte, die PowerShell-Befehle ausführten, eine Hintertür installierten und eine PNG-Täuschdatei herunterluden.
• Zu den Zielen gehörten eine militärnahe Organisation, Forschende, Journalisten und Menschenrechtsaktivisten mit Schwerpunkt Nordkorea.
• Die Kampagne verwendete erneut Schadsoftware, die bereits im Juni bei Aktivitäten nach dem ClickFix-Muster zum Einsatz kam, die derselben Gruppe zugeschrieben werden.
• Laut einem aktuellen Bericht eines großen KI-Anbieters haben nordkoreanische Akteure KI-Tools außerdem genutzt, um falsche Identitäten aufzubauen und Stellen im Homeoffice zu bekommen.
• Zu den Schutzmaßnahmen gehören eine strenge Prüfung von Anfragen zu Identitätsnachweisen, E-Mail- und Endgeräteschutz, der riskante Dateitypen und Skripte blockiert, sowie gründliche Identitätsprüfungen bei Einstellungen für Stellen im Homeoffice.