Russland, China und die USA loten Regeln für menschliche Kontrolle von KI bei Atomwaffen aus

Nukleargespräche über KI vor möglichem Gipfeltreffen in Shenzhen

Russland, China und die Vereinigten Staaten erörtern eine mögliche Verpflichtung, Entscheidungen über den Einsatz von Atomwaffen unter menschlicher Kontrolle zu belassen. Währenddessen bereiten Diplomaten ein geplantes Treffen von Wladimir Putin, Xi Jinping und Donald Trump am 18. und 19. November in Shenzhen vor. Die Verhandlungen konzentrieren sich darauf, den Einsatz künstlicher Intelligenz in nuklearen Führungssystemen einzuschränken. In diesem Bereich suchen die Verantwortlichen trotz Meinungsverschiedenheiten über Format und weiter gefasste Tagesordnung des Gipfels nach einer Einigung.

Das mögliche Treffen würde parallel zum Gipfel der Asiatisch-Pazifischen Wirtschaftsgemeinschaft (APEC) in der chinesischen Stadt stattfinden. Die Verhandlungsteams erörtern seit mehreren Wochen, welche Themen die drei Präsidenten ansprechen könnten. Dabei rücken Maßnahmen zur nuklearen Sicherheit stärker in den Mittelpunkt, während stärker umstrittene politische Fragen an Bedeutung verlieren.

Der Bericht über die KI-Vorschläge stützt sich auf nicht namentlich genannte Quellen, die von wochenlangen Gesprächen auf Arbeitsebene berichteten. Dabei ging es unter anderem um KI in kritischen Waffensystemen und eine mögliche gemeinsame Erklärung gegen einen Atomkrieg. Eine Quelle bezeichnete Regeln für den Einsatz von KI bei Atomwaffen als „leicht erreichbares Ergebnis“, das mit früheren politischen Grundsätzen im Einklang stehe.

Ein zentraler Vorschlag sieht vor, die endgültige Entscheidung über den Einsatz von Atomwaffen einem Menschen vorzubehalten und nicht einem autonomen KI-System. Weitere erörterte Ideen umfassen den Schutz nuklearer Kommunikationssysteme vor Cyberangriffen, den Austausch von Informationen über Raketentests und die Bekräftigung, dass ein Atomkrieg nicht gewonnen werden kann und niemals geführt werden darf.

Heather Williams, Senior Fellow am Center for Strategic and International Studies, sagte, eine gemeinsame Erklärung mit der Bekräftigung, dass ein Atomkrieg nicht gewonnen werden könne und niemals geführt werden dürfe, sei möglich. Sie wies darauf hin, dass die drei Länder dieser Formulierung als ständige Mitglieder des Sicherheitsrats der Vereinten Nationen bereits zugestimmt hätten. Als mögliches Ergebnis nannte Williams außerdem eine Vereinbarung über die menschliche Kontrolle von Atomwaffen sowie nuklearen Führungs- und Kontrollsystemen.

Das Treffen hängt weiterhin davon ab, ob eine Einigung über Tagesordnung und Rahmenbedingungen erzielt wird. Kremlsprecher Dmitri Peskow sagte am 8. November, der Gipfel werde stattfinden, wenn die Parteien einen Konsens erzielten. Umfang, Rechtsform und Durchsetzungsmechanismen einer möglichen Verpflichtung zu KI sind bislang nicht bekannt.

Trump hat öffentlich erklärt, dass er während des APEC-Gipfels mit Xi und Putin zusammentreffen wolle. Das chinesische Außenministerium bestätigte, mit den betreffenden Parteien über ein mögliches Treffen zu kommunizieren. Eine endgültige Einigung über die Tagesordnung wurde offiziell noch nicht bekannt gegeben.

Was würde menschliche Kontrolle bedeuten?

Nukleare Führungs- und Kontrollsysteme umfassen die Menschen, Kommunikationsmittel und Verfahren, über die eine Regierung Bedrohungen bewertet, Befehle erteilt und ihre Atomwaffen kontrolliert. KI könnte Teile dieses Prozesses unterstützen, ohne die Befugnis zu erhalten, einen Angriff anzuordnen.

Die Gespräche betreffen Berichten zufolge Frühwarnsysteme, Software zur Zielerkennung und das Verfahren, mit dem über einen Abschuss entschieden wird. Frühwarnsysteme prüfen Sensordaten auf Anzeichen eines bevorstehenden Angriffs. Zielerkennungssoftware hilft einzuschätzen, welches Ziel eine Waffe treffen könnte.

Eine Regelung, die die Abschussbefugnis Menschen vorbehält, würde eine Grenze zwischen Software ziehen, die Informationen bereitstellt, und Software, die die endgültige Entscheidung trifft. Ein Computer könnte beispielsweise einen möglichen Raketenstart zur Prüfung melden, während die Entscheidung über jede Reaktion einem Menschen vorbehalten bliebe.

Die vorgeschlagenen Maßnahmen befassen sich auch mit der Möglichkeit, dass KI unbefugt die Kontrolle über nukleare Systeme übernimmt. Diese Sorge geht über den endgültigen Abschussbefehl hinaus: Regierungen müssten berücksichtigen, wie automatisierte Werkzeuge Warnmeldungen verarbeiten, Informationen über Kommunikationsnetze weiterleiten und Entscheidungsträgern Handlungsoptionen präsentieren.

Washington und Peking haben sich bereits früher für die menschliche Kontrolle über den Einsatz von Atomwaffen ausgesprochen. Moskau wird als zurückhaltender beschrieben, wenn es darum geht, formelle internationale Beschränkungen zu akzeptieren, die seinen militärischen Handlungsspielraum einschränken könnten. Russland in eine gemeinsame Verpflichtung einzubinden, ist daher ein zentraler Teil der aktuellen diplomatischen Bemühungen.

Warum Frühwarnsysteme Teil der Debatte sind

KI kann große Mengen an Sensordaten schnell auswerten. In nuklearen Frühwarnsystemen könnte diese Geschwindigkeit Verantwortlichen helfen, eine mögliche Bedrohung einzuschätzen. Eine fehlerhafte Bewertung könnte jedoch ebenfalls Entscheidungsträger erreichen, wenn ihnen nur wenig Zeit für eine Reaktion bleibt.

Zwei Risiken, die im Zusammenhang mit den Vorschlägen erörtert werden, sind algorithmische Fehler und die Manipulation von Daten. Ein algorithmischer Fehler liegt vor, wenn Software ein falsches Ergebnis liefert. Bei einer Datenmanipulation werden Informationen, die zum Trainieren oder Steuern eines Systems dienen, absichtlich verfälscht. Dadurch könnte das System ein Ereignis falsch einordnen.

Eine falsche Warnung vor einem Angriff mit ballistischen Raketen wäre besonders gefährlich, da sie die Führung unter Druck setzen könnte, schnell eine Entscheidung zu treffen. Die menschliche Entscheidungsbefugnis über einen Abschuss ist eine mögliche Schutzmaßnahme; der Schutz der Informationen und Kommunikationswege, die diese Entscheidung beeinflussen, eine weitere.

Die erörterten Vorschläge sehen deshalb auch vor, Cyberangriffe auf nukleare Führungs- und Kommunikationssysteme einzudämmen. Eine Verpflichtung zum Schutz dieser Netze würde sowohl die Kanäle betreffen, über die Warnmeldungen und Befehle laufen, als auch die Frage, wer letztlich den Einsatz einer Waffe genehmigt.

Weniger wahrscheinlich sind Vorschläge für ein Verbot von Cyberangriffen oder KI-gestützten Angriffen auf nukleare Führungs-, Kontroll- und Kommunikationssysteme. Williams sagte, China interessiere sich zudem dafür, Grenzen für den strategischen Wettbewerb oder die Stationierung von Atomwaffen im Weltraum auszuloten. Auch Iran könnte eine Rolle spielen: Trump dürfte eine gemeinsame Erklärung anstreben, wonach Teheran niemals Atomwaffen erwerben dürfe.

Peking und Washington sind sich über das Treffen uneinig

China will Berichten zufolge ein streng vorbereitetes Treffen, bei dem jeder Präsident eine vorformulierte Erklärung verliest und einer vorab vereinbarten Tagesordnung folgt. Für eine offene Diskussion bliebe dabei wenig Raum. Die Trump-Regierung bevorzugt einen freieren Austausch, der den Staats- und Regierungschefs direkte Reaktionen aufeinander ermöglichen würde.

Peking würde Berichten zufolge bilaterale Einzelgespräche bevorzugen, falls sich die drei Regierungen nicht auf ein vorformuliertes Format einigen können. Diese Entscheidung ist für die Verhandlungen bedeutsam: Bei vorbereiteten Erklärungen müsste ein Großteil der inhaltlichen Einigung stehen, bevor die Staats- und Regierungschefs den Raum betreten. Eine offene Diskussion ließe ihnen dagegen mehr Spielraum für Verhandlungen.

Die unterschiedlichen Vorstellungen zum Format sind weiterhin berichtete Verhandlungspositionen und keine offiziell bekannt gegebene Vereinbarung. Eine nicht namentlich genannte Quelle beschrieb die Fortschritte bei den trilateralen Gesprächen als langsam. Auch die vollen Terminkalender der Staats- und Regierungschefs könnten die Planung erschweren.

Peskow beschrieb ein Verfahren, bei dem jede Regierung Themen vorschlägt, von denen einige für einen Teilnehmer akzeptabel und für einen anderen unerwünscht sind. In seinen Äußerungen vom 8. November machte er eine Einigung über die Tagesordnung zur Voraussetzung für den Gipfel.

US-Außenminister Marco Rubio sagte, Trump hoffe auf das Treffen, um über Atomwaffen zu sprechen. Putin schlug das Treffen während eines Telefongesprächs mit Trump am 9. Oktober vor. Anschließend stimmten alle drei Seiten der Idee vorläufig zu.

KI-Schutzmaßnahmen und Abrüstung sind unterschiedliche Streitfragen

Trump will über Rüstungskontrolle und nukleare Abrüstung sprechen. China hat sich Verhandlungen aller drei Länder über ihre Atomwaffenbestände widersetzt. Peking argumentiert, sein Bestand sei deutlich kleiner als der von Russland und den Vereinigten Staaten und Washington und Moskau sollten zunächst erhebliche Reduzierungen vornehmen.

Der New-START-Vertrag zwischen den Vereinigten Staaten und Russland lief im Februar 2026 aus. Er begrenzte ihre stationierten strategischen Atomwaffen und schuf einen Rahmen für deren Überprüfung. Sein Auslaufen hat das Interesse Washingtons an einem umfassenderen Rahmen verstärkt, der China künftig einbeziehen könnte.

Peskow ging am 14. Oktober auf dieses Hindernis ein. Der Kremlsprecher sagte, China betrachte seine nuklearen Fähigkeiten als nicht vergleichbar mit denen Russlands und der Vereinigten Staaten. Moskau respektiere die Haltung Pekings.

„Atomwaffenbestände sind kein geeignetes Thema, das man zur Sprache bringen sollte“, sagte er.

Regeln für KI beträfen die Kontrolle von Atomwaffen und nicht die Anzahl der Waffen, über die die einzelnen Länder verfügen. Dieses enger gefasste Thema eröffnet den Verhandlern einen möglichen Bereich für eine Einigung, während der Streit über Abrüstung weitergeht.

China befürwortet Berichten zufolge Transparenzgespräche und den Informationsaustausch als mögliche Alternativen zu Verhandlungen über eine Verringerung der Bestände. Informationen über Raketentests gehören zu den erwogenen Maßnahmen. Ein solcher Austausch könnte einer anderen Regierung helfen, einen beobachteten Start einzuordnen und die Unsicherheit über dessen Zweck zu verringern.

Eine nicht namentlich genannte Quelle sagte, Peking habe Gespräche über nukleare Transparenz als weniger weitreichende Alternative zu umfassenden Gesprächen über strategische Stabilität angeboten. China scheine Fortschritte bei nuklearen Fragen als Möglichkeit zu sehen, die Beziehungen zu Washington zu stabilisieren. Williams bezeichnete eine Vereinbarung über die Benachrichtigung bei Raketenstarts als „am leichtesten zu erreichendes konkretes Ergebnis“ für eine substanzielle trilaterale Einigung.

Russlands Zurückhaltung gegenüber formellen Beschränkungen stellt eine weitere Verhandlungshürde dar. Selbst wenn alle drei Regierungen den allgemeinen Grundsatz menschlicher Entscheidungsbefugnis unterstützen, müssten sie sich noch darauf einigen, welche Aktivitäten erfasst sind und welche Verpflichtungen jede Seite übernimmt.

Die Ukraine bleibt Teil der umfassenderen diplomatischen Agenda

Die Vorbereitungen für das Treffen der drei Staats- und Regierungschefs haben Russlands Krieg gegen die Ukraine und die Denuklearisierung der koreanischen Halbinsel Berichten zufolge von der vorrangigen Tagesordnung verdrängt. Peking soll direkte Gespräche zwischen Washington und Moskau über die Ukraine sowie einen Dialog zwischen Washington und Pjöngjang über die Sicherheit auf der koreanischen Halbinsel befürworten.

Peskow sagte jedoch, eine Lösung des Ukrainekriegs stehe weiterhin auf der Tagesordnung von Gesprächen auf höchster Ebene. Er äußerte sich dazu auf die Frage, wie sich Treffen in Abu Dhabi auf mögliche bilaterale Gespräche zwischen Putin und Trump während des APEC-Gipfels auswirken könnten.

Der Unterschied liegt zwischen dem geplanten Treffen der drei Staats- und Regierungschefs und den umfassenderen diplomatischen Gesprächen drumherum. Bei einer eng gefassten trilateralen Tagesordnung könnte die Ukraine nur begrenzt zur Sprache kommen, zugleich aber Gegenstand eines gesonderten Treffens zwischen den russischen und US-amerikanischen Präsidenten sein.

Auch die Prioritäten der Staats- und Regierungschefs scheinen auseinanderzugehen. Putin schlug das Treffen Berichten zufolge teilweise vor, um eine für Moskau günstige Lösung des Ukrainekriegs voranzubringen. Trump hat stärkeres Interesse daran bekundet, das Treffen für Gespräche über Atomwaffen und Abrüstung zu nutzen. Diese konkurrierenden Ziele erklären mit, warum die Einigung über die Tagesordnung Wochen in Anspruch nimmt.

Der bisherige Verlauf der Vorbereitungen

Die Vorbereitungen haben sich von einem Vorschlag auf Präsidentenebene zu Verhandlungen über Inhalte und Verfahren entwickelt. Der berichtete Ablauf zeigt, warum die anfängliche Bereitschaft zu einem Treffen bislang noch nicht zu einem festgelegten Programm geführt hat.

• 9. Oktober: Putin schlug während eines Telefongesprächs mit dem US-Präsidenten ein Treffen mit Trump und Xi vor.
• 14. Oktober: Peskow sagte unter Verweis auf Chinas Haltung, Atomwaffenbestände würden bei einem trilateralen Treffen wahrscheinlich nicht erörtert.
• 8. November: Peskow sagte, Moskau, Washington und Peking tauschten Vorschläge für die Tagesordnung aus. Der Gipfel hänge von einem Konsens ab.
• 10. November: Die Meinungsverschiedenheiten über vorformulierte Erklärungen und offene Diskussionen wurden öffentlich.
• 18. und 19. November: Das geplante Treffen soll parallel zum APEC-Gipfel in Shenzhen stattfinden.

Der jüngste Schwerpunkt auf KI fügt sich in die Bemühungen ein, ein enger gefasstes Thema zu finden, das für alle drei Regierungen akzeptabel ist. Diplomaten arbeiten Berichten zufolge auch an einer Erklärung, die den Grundsatz bekräftigt, dass ein Atomkrieg nicht gewonnen werden kann und niemals geführt werden darf.

Eine solche Erklärung würde eine gemeinsame politische Position festhalten. Eine detailliertere Verpflichtung zu KI müsste genauer bestimmen, welches Verhalten von jedem Land erwartet wird, einschließlich der Bereiche, in denen menschliche Entscheidungsbefugnis gewahrt bleiben muss, und der automatisierten Aktivitäten, die eingeschränkt würden.

Das Dreierformat stößt in Asien auf Bedenken

Japan ist Berichten zufolge besorgt über die Möglichkeit eines informell als G3 bezeichneten Formats, in dem die Vereinigten Staaten, China und Russland über zentrale Sicherheitsfragen beraten. Die Sorge besteht darin, dass Entscheidungen mit Auswirkungen auf andere Länder ohne deren Beteiligung getroffen werden könnten.

Eine nicht namentlich genannte Quelle sagte, Japan habe insbesondere Bedenken gegen Formulierungen geäußert, die an das Kriegsbündnis der drei Mächte gegen Japan erinnerten. Trump und Xi hatten solche Formulierungen während Xis Staatsbesuchs in Washington im September verwendet.

Die vorgeschlagenen Gespräche über die Sicherheit auf der koreanischen Halbinsel machen diese Frage konkret. Peking bevorzugt Berichten zufolge, das Thema Washington und Pjöngjang zu überlassen. Dadurch wäre die Tagesordnung des Treffens der drei Staats- und Regierungschefs enger gefasst, während eine wichtige regionale Sicherheitsfrage in einen anderen diplomatischen Kanal verlagert würde.

Für die drei beteiligten Regierungen könnte das Treffen mehreren Zwecken zugleich dienen. China würde ein bedeutendes diplomatisches Treffen ausrichten, Russland erhielte ein Forum an der Seite der US-amerikanischen und chinesischen Präsidenten, und Trump bekäme Gelegenheit, eine Vereinbarung zur nuklearen Sicherheit anzustreben.

Die unmittelbare Aufgabe besteht nicht darin, eine dauerhafte Institution der drei Mächte zu schaffen: Die Verhandler müssen klären, ob sich die Staats- und Regierungschefs treffen, welche Themen sie erörtern und ob sie sich auf gemeinsame Formulierungen zu KI einigen können. Das geplante Treffen am 18. und 19. November ist die nächste Gelegenheit, diese Gespräche in eine öffentliche Verpflichtung zu überführen.

Die wichtigsten Punkte

• Russland, China und die Vereinigten Staaten erörtern Beschränkungen für KI in nuklearen Führungssystemen, darunter den Vorbehalt, endgültige Entscheidungen über einen Abschuss Menschen zu überlassen.
• Ein mögliches Treffen von Putin, Xi und Trump ist für den 18. und 19. November in Shenzhen geplant. Voraussetzung ist eine Einigung über Tagesordnung und Format.
• China bevorzugt Berichten zufolge vorformulierte Erklärungen und eine vorab vereinbarte Tagesordnung, während Washington einen freieren Austausch zwischen den Staats- und Regierungschefs will.
• Peking lehnt Gespräche aller drei Länder über eine Verringerung ihrer Atomwaffenbestände ab und will, dass Russland und die Vereinigten Staaten zunächst ihre größeren Bestände reduzieren.
• Mögliche Maßnahmen umfassen den Schutz vor einer unbefugten Kontrolle durch KI, Beschränkungen für Cyberangriffe auf nukleare Kommunikationssysteme und den Austausch von Informationen über Raketentests.
• Die Ukraine ist Berichten zufolge auf der vorgeschlagenen trilateralen Tagesordnung nach hinten gerückt. Der Kreml sagt jedoch, sie bleibe Teil umfassenderer Gespräche auf höchster Ebene.
• Japan hat Berichten zufolge Bedenken gegen Formulierungen geäußert, die an das Kriegsbündnis der drei Mächte gegen Japan erinnern.
• Eine endgültige Tagesordnung, ein Text und Durchsetzungsmechanismen für eine Verpflichtung zu KI wurden nicht bekannt gegeben.