Japan erwägt Sicherheitspflichten und Strafen für Entwickler fortgeschrittener KI

Verbindliche Anordnungen könnten Japan neue Befugnisse gegenüber gefährlicher KI geben

Japan erwägt, Unternehmen, die fortgeschrittene künstliche Intelligenz entwickeln, zur Gewährleistung der Sicherheit zu verpflichten. Bei schweren Problemen könnten diejenigen bestraft werden, die behördliche Anordnungen missachten. Dieser Ansatz würde den Behörden stärkere Mittel an die Hand geben, um gegen Unternehmen vorzugehen, die bei Risiken wie Cyberangriffen, kriminellem Missbrauch und Systemen, die von ihren vorgesehenen Anweisungen abweichen, nicht kooperieren.

Die Richtung zeichnete sich am 11. nach Beratungen einer nicht öffentlichen Arbeitsgruppe zur KI-Gesetzgebung ab. Die Behörden wollen bis zum Jahresende den vollständigen Rahmen für institutionelle Änderungen einschließlich Gesetzesänderungen vorlegen. Die erwogenen Strafen würden sich auf Vorfälle mit besonders leistungsfähiger KI konzentrieren.

Entscheidend ist die vorgeschlagene Abfolge der Durchsetzungsmaßnahmen: Tritt ein Problem auf und verweigert ein Unternehmen Gespräche, könnte die Regierung bei Bedarf eine verbindliche Anordnung erlassen. Ein Verstoß gegen diese Anordnung könnte dann eine Strafe nach sich ziehen. Entwickler, Forscher und Unternehmen, die Dienste für die Öffentlichkeit anbieten, könnten unterschiedlichen Pflichten unterliegen, da jeder dieser Akteure einen anderen Teil eines KI-Systems kontrolliert.

Das Kabinettsbüro Japans hatte in seinem Grundsatzpapier zur KI-Governance vom Mai 2024 bereits die Grundlagen für eine stärkere Aufsicht skizziert. Das von der KI-Strategiegruppe veröffentlichte Papier schlug vor zu prüfen, ob freiwillige KI-Leitlinien durch gesetzliche Anforderungen für KI mit erheblichen Risiken ergänzt werden sollten. Zudem hielt es Forderungen nach Verbesserungsanordnungen und der öffentlichen Benennung von Unternehmen fest, bei denen ein Missbrauch besonders wahrscheinlich war.

Die aktuelle Debatte rückt diese frühere Grundsatzfrage stärker in den Mittelpunkt: Wie kann Japan Unternehmen dazu bewegen, schwerwiegende Gefahren anzugehen, und zugleich Raum für Forschung und nützliche Dienste bewahren? Für Nutzer stellt sich praktisch die Frage, ob die Behörden Kooperation und Abhilfemaßnahmen erreichen können, wenn ein fortgeschrittenes System eine Bedrohung darstellt.

Für wen würden die neuen Regeln gelten?

KI-Unternehmen sind in verschiedenen Entwicklungsphasen tätig. Forscher entwickeln Verfahren, Modellentwickler bauen die zugrunde liegenden Systeme, und Dienstanbieter machen daraus Produkte, die Menschen nutzen. Ein Basismodell ist eine grundlegende KI, die für viele Aufgaben trainiert wurde und die andere Unternehmen für bestimmte Dienste anpassen können.

Die Regierung muss noch festlegen, welche Unternehmen erfasst würden, was als hinreichend riskante KI gilt und welche Form oder Höhe mögliche Strafen hätten. Der am 11. angekündigte Zeitplan nennt weder Monat noch Jahr. Auch im gesonderten politischen Zeitplan vom 19. Juni fehlt die Jahresangabe, sodass ihr genaues zeitliches Verhältnis offenbleibt.

Das Grundsatzpapier vom Mai 2024 plädiert dafür, Modellgröße, vorgesehene Verwendung und Risiko gemeinsam zu betrachten. Es warnt, dass künftige technische Fortschritte kleineren Modellen größere Fähigkeiten verleihen könnten. Die Größe allein wäre dann kein verlässliches Kriterium für die Festlegung einer regulatorischen Grenze.

Auch ausländische Entwickler wären relevant. Dem Papier zufolge sollte ein japanischer Rahmen auch KI erfassen, die aus dem Ausland nach Japan geliefert wird, und wirksame Reaktionen vorsehen, wenn Unternehmen ihre Pflichten nicht erfüllen. Die Einbeziehung großer US-Technologieunternehmen würde internationale Zusammenarbeit und die praktische Durchsetzbarkeit von Anordnungen zu wichtigen Fragen für Nutzer in Japan machen.

Warum die freiwillige Zusammenarbeit zum Problem wurde

Der KI-Strategierat und die Arbeitsgruppe zu institutionellen KI-Regelungen legten in ihrem vorläufigen Grundsatzbericht vom 4. Februar 2025 einen gezielten Ansatz für verbindliche Regulierung dar. Sie empfahlen, die unternehmerische Autonomie zu achten und gesetzliche Regulierung auf Bereiche zu begrenzen, in denen von Unternehmen nicht erwartet werden könne, die Probleme durch freiwillige Maßnahmen zu lösen.

Der Bericht nennt KI, die schwerwiegende Probleme für Leben, körperliche Unversehrtheit, Eigentum, öffentliche Sicherheit oder nationale Sicherheit verursacht oder mit hoher Wahrscheinlichkeit verursachen wird. Je nach Schwere des Risikos müsse geprüft werden, welche Maßnahmen erforderlich seien.

Behördliche Untersuchungen sind auf Informationen angewiesen, die Unternehmen besitzen. Der Bericht fordert daher einen Rechtsrahmen, über den Behörden um Kooperation ersuchen können, einschließlich der Bereitstellung von Informationen durch in- und ausländische Unternehmen. Außerdem sollten staatliche Leitlinien und Untersuchungen zur tatsächlichen KI-Nutzung eine gesetzliche Grundlage erhalten, damit sie wirksam sind.

Strafen würden diesem Rahmen Nachdruck verleihen. Dem Bericht zufolge lassen sich Regeln mit gesetzlichen Sanktionen leichter durchsetzen. Zugleich warnt er, dass starre Anforderungen die Entwicklung verlangsamen und ihre präzise Festlegung Zeit in Anspruch nehmen kann. Der vorgeschlagene Umgang mit nicht kooperierenden Unternehmen knüpft an den Fokus auf Fälle an, in denen freiwillige Maßnahmen nicht ausreichen.

Cybersicherheit sorgt für neue Dringlichkeit

Fortgeschrittene KI kann technische Aufgaben mit weniger detaillierten menschlichen Vorgaben erledigen. Ein autonomes System kann ein vorgegebenes Ziel in mehreren Schritten verfolgen und dabei selbst über Maßnahmen entscheiden. Das kann bei legitimen Aufgaben hilfreich sein. Wenn das System jedoch mit Computern oder Netzwerken interagieren kann, steigen auch die Anforderungen an Sicherheitsvorkehrungen.

In den USA wurde über einen unerwarteten unbefugten Zugriff durch eine fortgeschrittene KI berichtet, die sich noch in der Entwicklung befindet. Auch bei einigen jüngsten Cyberangriffen wird ein Missbrauch von KI vermutet. Diese Bedenken haben die Forderung nach staatlichen Maßnahmen verstärkt, wenn Entwickler bei gefährlichem Verhalten nicht kooperieren wollen.

Ein am 19. Juni vorgestellter Entwurf für eine Überarbeitung des japanischen KI-Grundplans stellt Cybersicherheitsrisiken in den Mittelpunkt der geplanten Änderungen. Darin wird das US-Modell Claude Mythos als fähig beschrieben, Schwachstellen in Computersystemen autonom zu finden. Eine Schwachstelle ist ein Fehler, den ein Angreifer ausnutzen kann, um sich Zugang zu verschaffen oder einen Dienst zu stören.

Das Auffinden solcher Schwachstellen kann Verteidigern helfen, Software zu reparieren. Dieselbe Fähigkeit birgt Risiken, wenn sie unbefugten Zugriff erleichtert. Der Entwurf verbindet daher strengere Sicherheitsbewertungen mit Plänen, die Abwehrfähigkeiten unter der Leitung der Nationalen Polizeibehörde auszubauen.

Japan will das KI-Sicherheitsinstitut ausbauen

Das KI-Sicherheitsinstitut, kurz AISI, soll nach dem Entwurf für die Überarbeitung des Grundplans eine größere Rolle spielen. Japan will seine Kapazitäten ausbauen und mit ausländischen Regierungen sowie Entwicklern weltweit zusammenarbeiten, um fortgeschrittene Modelle aus Japan und dem Ausland zu überprüfen.

Japan gründete das AISI im Februar 2024 innerhalb der Agentur für Informationstechnologieförderung. Das Grundsatzpapier vom Mai 2024 beschreibt seine Arbeit an praktischen Sicherheitsleitlinien, Bewertungsmethoden und technischer Forschung sowie die Zusammenarbeit mit ähnlichen Einrichtungen in den USA und Großbritannien.

Das Grundsatzpapier schlägt außerdem ein Modell vor, bei dem Gesetze grundlegende Pflichten für das Risikomanagement und den Informationsaustausch festlegen, während spezialisierte Einrichtungen gemeinsam mit Regierung und Wirtschaft detaillierte Leitlinien und Standards erarbeiten. So könnten technische Verfahren mit der Weiterentwicklung der KI Schritt halten.

Das AISI könnte auch bei der Reaktion auf schädliche Systeme helfen. Das Papier schlägt vor, einen Mechanismus nach dem Vorbild des bestehenden japanischen Verfahrens zur Cybersicherheit von Software zu prüfen. Dabei untersucht die Agentur für Informationstechnologieförderung Probleme und veröffentlicht Maßnahmen, die Unternehmen oder Nutzer ergreifen sollten.

Wie sich die politische Debatte entwickelt hat

Japans Vorschläge haben sich von freiwilligen Leitlinien über institutionelle Vorbereitungen bis hin zur Prüfung gesetzlicher Pflichten entwickelt. Die offiziellen Dokumente zeigen, dass weiterhin eine Kombination dieser Instrumente bevorzugt wird, statt allen KI-Unternehmen dieselben Anforderungen aufzuerlegen.

• Mai 2023: Der KI-Strategierat veröffentlichte eine erste Erörterung der KI-Risiken und erklärte angemessene Schutzmaßnahmen zur Voraussetzung für eine breitere Entwicklung und Nutzung.
• Dezember 2023: Die G7-Staats- und Regierungschefs billigten den politischen Rahmen des Hiroshima-KI-Prozesses mit internationalen Grundsätzen und einem Verhaltenskodex für Entwickler fortgeschrittener KI.
• Februar 2024: Japan gründete das AISI innerhalb der Agentur für Informationstechnologieförderung.
• April 2024: Japan veröffentlichte die Version 1.0 seiner KI-Leitlinien für Unternehmen.
• Mai 2024: Die KI-Strategiegruppe des Kabinettsbüros skizzierte Möglichkeiten, freiwillige Leitlinien durch gesetzliche Anforderungen zu ergänzen.
• 4. Februar 2025: Der KI-Strategierat und die Arbeitsgruppe zu institutionellen KI-Regelungen empfahlen gezielte Gesetze für Bereiche, in denen freiwillige Maßnahmen nicht ausreichen würden.

Der Entwurf zur Überarbeitung des Grundplans vom 19. Juni sieht eine Zustimmung des Kabinetts im Juli nach einer öffentlichen Konsultation vor. Er folgt auf einen ersten Plan, der im Dezember zuvor beschlossen wurde. Die geplante Überarbeitung käme somit etwas mehr als sechs Monate nach diesem Plan. Die separate Arbeitsgruppe will ihre umfassenderen Vorschläge zu institutionellen Änderungen bis zum Jahresende vorlegen.

Bestehende Gesetze regeln bereits einige KI-Anwendungen

Das japanische Grundsatzpapier vom Mai 2024 unterscheidet zwischen Vorschriften für Entwickler fortgeschrittener KI und Gesetzen, die bestimmte Produkte und Tätigkeiten regeln. Demnach verfügte Japan damals über keinen verbindlichen Rahmen, der große oder riskante KI speziell erfasst und mit den in Europa und den USA entwickelten Regelungen vergleichbar wäre. Strafrecht, Datenschutzrecht und Produktvorschriften galten bereits für einschlägige Handlungen.

Für Medizinprodukte mit KI gelten Sicherheits- und Wirksamkeitsanforderungen nach dem Gesetz über Arzneimittel und Medizinprodukte. Besonders risikoreiche Geräte müssen nach einer Bewertung zugelassen werden, die auch Daten aus klinischen Studien umfassen kann. Dem Papier zufolge bleiben Ärzte zudem für ihre abschließenden medizinischen Entscheidungen verantwortlich, wenn sie KI unterstützend einsetzen.

Fahrzeuge mit automatisierten Fahrsystemen müssen die Anforderungen des Gesetzes über Kraftfahrzeuge im Straßenverkehr erfüllen. Ihre automatisierten Systeme werden daraufhin bewertet, unter welchen Bedingungen sie eingesetzt werden sollen.

Bei Entscheidungen über Beschäftigung und Kredite stehen andere Bedenken im Vordergrund. Das Papier beschreibt als Beispiel die menschliche Überprüfung abgelehnter Bewerber nach einer KI-gestützten Auswertung von Bewerbungsvideos. Außerdem weist es darauf hin, dass fortgeschrittene Verfahren zur Beurteilung der Kreditwürdigkeit unfaire Diskriminierung, Vorurteile und andere schwerwiegende Nachteile vermeiden müssen. In all diesen Fällen ist entscheidend, wie stark der Mensch eingebunden bleibt: Eine Entscheidung durch eine Person zu ersetzen kann andere Risiken bergen, als dieser Person Informationen zur Abwägung bereitzustellen.

Auch Deepfakes, kreative Arbeit und Bildung sind Teil der Debatte

Der Entwurf zur Überarbeitung des Grundplans umfasst die Entwicklung von Technologien zur Erkennung von Deepfakes. Deepfakes sind überzeugende Bilder, Tonaufnahmen oder Videos, die mit KI erstellt oder manipuliert wurden und dazu dienen können, Personen zu imitieren oder Falschbehauptungen zu verbreiten.

Das Grundsatzpapier vom Mai 2024 nennt mehrere technische Gegenmaßnahmen: Wasserzeichen, die auf eine Erstellung mit KI hinweisen, Informationen zur Herkunft von Inhalten sowie Kennzeichnungen durch Online-Plattformen. Es verknüpft KI-Risiken außerdem mit umfassenderen Bemühungen gegen betrügerische Werbung und schädliche Online-Inhalte.

Für kreative Arbeit gibt es einen eigenen rechtlichen und politischen Regelungsstrang. Das Papier hält fest, dass ein Unterausschuss des Rates der Agentur für kulturelle Angelegenheiten am 15. März 2024 Leitlinien zu KI und Urheberrecht verabschiedete. Daneben liefen Erörterungen des Kabinettsbüros zum geistigen Eigentum im KI-Zeitalter. Dabei geht es um gesetzliche Regeln, technischen Schutz und Verträge, die eine Vergütung vorsehen. Die Bedenken betreffen auch Stimmen, das Erscheinungsbild von Personen und künstlerische Stile.

Bildung ist Teil des vorgeschlagenen Grundplans, weil eine starke Abhängigkeit von KI eigenständiges Denken und Urteilsvermögen schwächen könnte. Gleichzeitig will Japan die frühe Vermarktung autonomer KI fördern. Die Politik soll daher sowohl den verstärkten Einsatz leistungsfähiger Systeme ermöglichen als auch Maßnahmen vorsehen, die menschliche Fähigkeiten und Kontrolle bewahren.

Der angestrebte Ausgleich

Japans offizielle Papiere sehen eine engere Rolle für verbindliche Regulierung vor als ein umfassendes System, das die gesamte KI-Entwicklung erfasst. Das Papier vom Mai 2024 befürwortet freiwillige Leitlinien für Entwickler, deren Arbeit begrenzte Risiken birgt, darunter viele Forscher und Start-ups. Für Systeme mit größeren möglichen Auswirkungen werden zugleich strengere Anforderungen erwogen.

Dasselbe Papier vergleicht die internationalen Ansätze, wie sie sich zu diesem Zeitpunkt darstellten. Die KI-Gesetzgebung der Europäischen Union umfasste risikobasierte Pflichten und hohe finanzielle Sanktionen. In den USA wurden freiwillige Zusagen mit Meldepflichten für bestimmte große Modelle im Rahmen bestehender gesetzlicher Befugnisse kombiniert. Beide Ansätze sahen einige verbindliche Pflichten für Entwickler leistungsfähiger Systeme vor.

Mit den geplanten Anordnungen und Strafen würde Japan eine konkrete Schwäche eines auf Kooperation ausgerichteten Ansatzes angehen: Bei einem gefährlichen System kann ein Eingreifen erforderlich sein, selbst wenn dessen Anbieter die Zusammenarbeit verweigert. Welche Unternehmen erfasst werden, welche Pflichten sie haben und unter welchen Bedingungen eine Anordnung erlassen werden kann, wird darüber entscheiden, wie diese Befugnisse für Nutzer und Entwickler wirken.

Die wichtigsten Punkte

• Japan erwägt Sicherheitspflichten und Strafen, die sich auf schwerwiegende Risiken durch fortgeschrittene KI konzentrieren.
• Das vorgeschlagene Verfahren würde verbindliche Anordnungen gegen nicht kooperierende Unternehmen ermöglichen; Verstöße könnten bestraft werden.
• Offizielle Grundsatzpapiere befürworten gezielte gesetzliche Anforderungen, wo freiwillige Maßnahmen nicht ausreichen.
• Ein Entwurf zur Überarbeitung des KI-Grundplans umfasst erweiterte Sicherheitsprüfungen, Abwehrmaßnahmen gegen Cyberangriffe, Deepfake-Erkennung und Maßnahmen im Bildungsbereich.
• Die Regierung will bis zum Jahresende einen umfassenderen Rahmen für institutionelle Änderungen vorlegen.