Zhejiang University schlägt KI-Gesetz vor, das Systeme auf ihre Aufgaben abstimmt

Ein Vorschlag mit 99 Artikeln zur Frage, was KI dürfen soll

Forscher der Zhejiang-Universität haben einen Expertenvorschlag für ein Gesetz zur künstlichen Intelligenz vorgelegt. Er umfasst acht Kapitel und 99 Artikel und beruht auf einem zentralen Gedanken: Die Befugnisse eines KI-Systems sollten seiner Zuverlässigkeit und den Folgen der jeweiligen Aufgabe entsprechen.

Der Vorschlag der Zhejiang-Universität, Version 1.0, wurde bei einer Auftaktveranstaltung am 24. September vorgestellt. In der offiziellen Ankündigung der Veranstaltung war sie für den 24. September 2026 von 14 bis 17.30 Uhr auf dem Zijingang-Campus der Universität angesetzt. Auf der Tagesordnung standen neben der Entwicklung der Branche auch der Schutz von Rechten und die Rechenschaftspflicht. Darin spiegeln sich die beiden Anliegen wider, auf die der Vorschlag eingehen soll.

Für Menschen, die von KI betroffen sind, stellen sich ganz konkrete Fragen: Darf ein Modellbetreiber die Werke eines Illustrators ohne Genehmigung zum Training verwenden? Wer trägt die Verantwortung, wenn ein Sprachmodell eine schädliche oder falsche Antwort gibt? Wie kann jemand Beweise sichern und Abhilfe verlangen, wenn sich ein Video, in dem sein Gesicht ohne Zustimmung verwendet wird, online verbreitet?

Unternehmen haben andere Sorgen: sich überschneidende Compliance-Vorgaben, aufwendige Verfahren vor der Nutzung von Produkten und Kosten, die kleinere Firmen möglicherweise nur schwer tragen können. Die Forscher erklären, ihr Ansatz solle Rechte schützen und zugleich diesen Belastungen Rechnung tragen.

Das Dokument ist ein wissenschaftlicher Vorschlag, der diskutiert und weiter überarbeitet werden soll. Sein am weitesten ausgearbeiteter Gedanke ist eine Methode, KI in einem konkreten Einsatzbereich zu bewerten. Dabei werden die Fähigkeiten eines Systems, seine Zuverlässigkeit und die Bedeutung der Aufgabe für die betroffenen Menschen miteinander verknüpft.

Wie der Entwurf entstand

Das Autorenteam arbeitete fast sechs Monate an dem Vorschlag und nahm fünf konzentrierte Überarbeitungsrunden vor. Aus einem ersten Entwurf mit 174 Artikeln wurden 99. Das sind 75 Artikel weniger, also eine Kürzung um rund 43 Prozent. Daran zeigt sich, wie stark der Text im Laufe der Ausarbeitung gestrafft wurde. Die Zahl der Artikel allein sagt jedoch wenig darüber aus, welche Anforderungen einzelne Bestimmungen an Nutzer oder Unternehmen stellen würden.

Die Forscher besuchten mehr als 20 KI-Unternehmen in Hangzhou sowie führende Internetkonzerne. Zu ihrer Arbeit gehörten außerdem Beratungen beim Gesetzgebungsforum Zhijiang, Gespräche mit zuständigen Ministerien und Kommissionen sowie mehrere Runden mit Experten. Parallel dazu wurde an zwei lokalen Verordnungsentwürfen zur KI-Branche in Hangzhou und zur Entwicklung der Stadt als Innovationsstandort gearbeitet.

Organisiert wurde das Vorhaben von der Guanghua Law School der Zhejiang-Universität, dem universitätseigenen Forschungsinstitut für digitales Recht und Governance, dem Zhejiang Legislative Research Institute und dem Legislative Research Institute der Zhejiang-Universität. Laut offizieller Tagesordnung sollte Li Wenlong, Forscher an der Guanghua Law School, den Vorschlag vorstellen und erläutern.

Der Ablauf der Ausarbeitung und Vorstellung war wie folgt:

• Über fast sechs Monate hinweg führte das Team Unternehmensbesuche und Beratungen durch und überarbeitete den Text in fünf Runden.
• Am 24. September wurde der Vorschlag an der Zhejiang-Universität vorgestellt; laut offizieller Ankündigung fand die Veranstaltung 2026 statt.
• Nach dem Treffen wollte das Team Rückmeldungen einarbeiten und weitere Fassungen ausarbeiten.

Drei Fragen hinter den vorgeschlagenen Regeln

Sun Xiaoxia, Direktor des Forschungsinstituts für digitales Recht und Governance der Zhejiang-Universität, beschreibt den Rahmen anhand von drei miteinander verknüpften Elementen: Ausführungsfähigkeit, kognitiver Reife und Art sowie Auswirkungen einer Aufgabe. Einfacher gesagt geht es darum, was ein KI-System kann, wie zuverlässig es ist und wie viel von seinen Entscheidungen abhängt.

Sun erläuterte auf Chinesisch, woher seiner Ansicht nach die Risiken von KI rühren:

Wir sind der Ansicht, dass die Risiken künstlicher Intelligenz nicht von der Leistungsfähigkeit der Maschinen herrühren, sondern von einem Missverhältnis zwischen Fähigkeiten, kognitiver Reife und Aufgaben.

Ein System könnte eine lange Reihe von Vorgängen ohne menschliches Eingreifen ausführen und dennoch Schwierigkeiten haben, eine ungewöhnliche Situation zu erkennen. Würde man ihm eine Aufgabe übertragen, bei der die persönliche Sicherheit auf dem Spiel steht, entstünde eine gefährliche Lücke zwischen seinem Handlungsspielraum und seiner Fähigkeit zu erkennen, wenn etwas nicht stimmt.

Der Vorschlag beschränkt sich deshalb nicht auf eine einzelne Einstufung einer Technologie. Eine Aufsichtsbehörde würde die konkrete Version eines Systems, den vorgesehenen Einsatz und die Betriebsumgebung prüfen. Für dieselbe zugrunde liegende Technologie könnten je nach Aufgabe unterschiedliche Kontrollen angemessen sein.

Fähigkeiten und Zuverlässigkeit würden getrennt bewertet

Die vorgeschlagene Skala für Fähigkeiten umfasst vier Stufen: Assistenz, begrenzte Automatisierung, hohe Automatisierung und autonome Ausführung. Bei der Bewertung würde berücksichtigt, wie eigenständig ein System handelt, wie weitreichend seine Entscheidungen sind, auf welche Werkzeuge es zugreifen kann, wie lange es durchgehend arbeiten kann und ob es eine digitale oder physische Umgebung verändern kann.

Der Zugriff auf Werkzeuge ist relevant, weil ein KI-System, das eine Handlung lediglich vorschlägt, eine andere Reichweite hat als eines, das sie ausführen darf. Die Erlaubnis, andere Software oder Geräte zu bedienen, kann aus einer falschen Antwort eine Reihe realer Handlungen machen.

Auch die kognitive Reife würde in vier Stufen eingeteilt: grundlegend, allgemein, höher und stark kontrolliert. Bei der Bewertung würden Genauigkeit und Konsistenz, der Umgang mit ungewöhnlichen Eingaben und Fehlerkorrekturen, Cybersicherheit, Rückverfolgbarkeit sowie die Bedingungen untersucht, unter denen ein Mensch die Kontrolle übernehmen kann.

Ein weiterer Faktor ist die Kalibrierung der Vertrauenswürdigkeit. Einfach gesagt wird dabei geprüft, ob die vom System ausgedrückte Sicherheit damit übereinstimmt, wie oft es tatsächlich richtig liegt. Ein System, das häufig falsch liegt und dennoch sicher klingt, lässt sich für Nutzer besonders schwer überwachen.

Der Rahmen würde außerdem prüfen, ob wichtige Ergebnisse erklärt werden können und ob ein System innerhalb festgelegter Grenzen bleibt. Durch die getrennte Bewertung von Fähigkeiten und Zuverlässigkeit kann eine Aufsichtsbehörde erkennen, wenn ein System zwar leistungsfähig genug ist, selbstständig zu handeln, für eine sensible Aufgabe aber nicht zuverlässig genug.

Welche Aufgaben würden genauer geprüft?

Der Vorschlag teilt Aufgaben in drei Wirkungsstufen ein: gering, allgemein und hoch. Bei der Bewertung würden die Bedeutung der betroffenen Rechte, die Wahrscheinlichkeit und Schwere eines Schadens, die Zahl der Betroffenen, die Dauer der Folgen, ihre Umkehrbarkeit und die Möglichkeit, Abhilfe zu erhalten, berücksichtigt.

Auch die Schutzbedürftigkeit wäre relevant. Eine Entscheidung, gegen die sich jemand nur schwer wehren kann, könnte eine genauere Prüfung erfordern als eine vergleichbare Entscheidung, bei der die betroffene Person leicht Unterstützung erhält.

Bei Aufgaben, die Leben und Gesundheit, persönliche Freiheit, Menschenwürde, Chancengleichheit, erhebliche Vermögensinteressen, Bildung, Beschäftigung, soziale Absicherung, Justiz, Verwaltungsvollstreckung oder öffentliche Sicherheit betreffen, würde eine hohe Wirkung vermutet. Dieselbe Vermutung gälte für Aufgaben, die eine große Zahl von Menschen erheblich beeinflussen können.

Der Vorschlag hält außerdem fest, dass verbotene KI-Anwendungen unabhängig von ihrer Einstufung nach Wirkungsgrad weder entwickelt noch eingesetzt oder genutzt werden dürfen. Die mit dem Vorschlag veröffentlichten Erläuterungen enthalten weder eine detaillierte Liste verbotener Anwendungen noch konkrete rechtliche Antworten auf die eingangs angesprochenen Streitfragen zu Urheberrecht, falschen Ausgaben und dem Austausch von Gesichtern.

Ein medizinisches Beispiel veranschaulicht das Abstimmungsprinzip

Sun führte medizinische Bildgebung und pathologische Analysen als Beispiel dafür an, warum der Einsatzbereich eines Systems ebenso wichtig ist wie seine technische Leistungsfähigkeit. KI kann große Mengen an Bildern und medizinischen Daten schnell verarbeiten; bei schwierigen oder ungewöhnlichen Fällen kann ihre Schlussfolgerungsfähigkeit jedoch begrenzt bleiben.

Ein geeigneter Einsatz müsste beide Eigenschaften berücksichtigen. Dem System bei einer schwierigen Diagnose die volle Verantwortung zu übertragen und seinem Urteil übermäßig zu vertrauen, würde das Missverhältnis schaffen, dem der Rahmen entgegenwirken soll.

Sun beschrieb das Ziel auf Chinesisch:

Eine Abstimmung zu verlangen ist etwas anderes, als einfach Beschränkungen aufzuerlegen; es geht darum, die bestmögliche Übereinstimmung zwischen Fähigkeiten, kognitiver Reife und Aufgaben zu finden.

Ein System, das eine anspruchsvolle Aufgabe schlecht bewältigt, könnte Sun zufolge stattdessen mit einer weniger komplexen betraut werden, anstatt es ganz aufzugeben. Die praktische Wahl beschränkt sich also nicht darauf, eine uneingeschränkte Nutzung zu erlauben oder sie ganz zu verhindern. Behörden und Betreiber könnten die Aufgabe, die Befugnisse des Systems oder den Umfang menschlicher Beteiligung anpassen.

Für ein Krankenhaus würde dieser Ansatz den Blick auf die konkrete KI-Aufgabe und die damit verbundenen Schutzvorkehrungen richten. Für Patienten wäre entscheidend, ob die Rolle des Systems der Tragweite der Entscheidung angemessen ist.

Genehmigungen müssten mit der Weiterentwicklung von KI Schritt halten

Das vorgeschlagene Governance-Verfahren umfasst sechs Phasen: Forschung und Entwicklung, Tests, Einführung, Betrieb, Weiterentwicklung und Außerbetriebnahme. Die Einstufung würde über alle Phasen hinweg fortgeführt, da sich Fähigkeiten und Einsatzbedingungen eines Systems nach seiner Einführung ändern können.

Ein Modellupdate könnte die Bandbreite der Handlungen eines Systems erweitern. Ein Einsatz in einem neuen Umfeld könnte dazu führen, dass mehr Menschen oder sensiblere Interessen von seinen Entscheidungen betroffen sind. Auch neue Daten können das Verhalten eines Modells verändern und seine Zuverlässigkeit verringern, ohne dass dies bei früheren Tests erkennbar war.

Der Vorschlag sieht eine erneute Bewertung vor, wenn sich das System oder die Aufgabe ändert. Eine Beurteilung wäre an eine konkrete Version, einen Zweck und eine Betriebsumgebung gebunden. Betreiber hätten dadurch einen Grund, ihre Pflichten erneut zu prüfen, sobald sich eines dieser Elemente ändert.

Sun nennt acht Bereiche, in denen das Abstimmungsprinzip als Richtschnur für rechtliche Vorgaben dienen könnte: Einstufung, Zuweisung von Pflichten, Bewertungen, Erkennung von Anwendungen mit hoher Wirkung, Intensität der Regulierung, Risikokontrollen, rechtliche Verantwortung und Anpassung im Laufe der Zeit. Diese Entscheidungen in einem gemeinsamen Rahmen zu verbinden, ist der wichtigste Versuch des Vorschlags, eine kohärentere KI-Governance zu schaffen.

Rechte und Pflichten von Unternehmen treffen in der Umsetzung aufeinander

Die Fragen zu Illustratoren, falschen Antworten und gefälschten Videos zeigen, warum Rechenschaftspflicht über technische Tests hinaus wichtig ist. Wer Entschädigung oder die Entfernung schädlicher Inhalte verlangt, braucht einen gangbaren Weg von dem erlittenen Schaden zu den dafür verantwortlichen Parteien.

Der Vorschlag ordnet die rechtliche Verantwortung in seinen Abstimmungsrahmen ein. Damit würde die Eignung eines Systems für die ihm zugewiesene Aufgabe bei der Frage nach Pflichten und Rechenschaftspflicht eine Rolle spielen. Wie die Bewertungsergebnisse jedoch mit den geltenden Regeln zur zivilrechtlichen Haftung zusammenhängen, gehört zu den Fragen, für die laut Sun noch detaillierte Arbeit erforderlich ist.

Die Forscher müssen außerdem festlegen, wie die kognitive Reife geprüft werden soll und ab welcher Größe ein Abstand zwischen Fähigkeiten, Zuverlässigkeit und Anforderungen einer Aufgabe als ungeeignete Abstimmung gelten soll. Davon hängt ab, wie einheitlich Unternehmen den Rahmen anwenden können und wie effektiv Aufsichtsbehörden ihre Bewertungen überprüfen können.

Die Tagesordnung der Auftaktveranstaltung brachte diese unterschiedlichen praktischen Anliegen in einem gemeinsamen Programm zusammen. In der Sitzung zur Branche standen Rechtsexperten von Meituan und Douyin neben Vertretern aus Wissenschaft und Technik. Bei der Sitzung zu Rechten und Rechenschaftspflicht waren ein Compliance-Direktor von Alibaba, Anwälte und Hochschulwissenschaftler aufgeführt. Ihre Teilnahme zeigt die Bandbreite der Perspektiven, die die Organisatoren in die Diskussion einbeziehen wollten; aus der Tagesordnung lässt sich nicht ableiten, dass diese Teilnehmer eine gemeinsame Position zum Entwurf vertreten.

Für kleinere Unternehmen geht es konkret um die Zahl der erforderlichen Bewertungen, die vorzulegenden Nachweise und die Frage, wie sich Pflichten mit der Weiterentwicklung eines Produkts ändern. Für Menschen, die von KI betroffen sind, steht auf dem Spiel, ob diese Pflichten dazu beitragen, Schäden zu verhindern und bei Problemen wirksame Abhilfe zu ermöglichen.

Das Forschungsteam will den Vorschlag anhand der Rückmeldungen aus dem Treffen überarbeiten. Nun geht es vor allem darum, das Abstimmungsprinzip in Tests, Schwellenwerte und Regeln zur Verantwortung zu überführen, die sich bei konkreten Streitfällen und Produktentscheidungen anwenden lassen.

Die wichtigsten Punkte

• Der Expertenvorschlag der Zhejiang-Universität für ein KI-Gesetz umfasst acht Kapitel und 99 Artikel; der erste Entwurf hatte 174 Artikel.
• Der Rahmen verknüpft die Ausführungsfähigkeit eines Systems, seine kognitive Zuverlässigkeit und die ihm zugewiesene Aufgabe.
• Bei sensiblen Aufgaben in Bereichen wie Gesundheit, Freiheit, Beschäftigung und Bildung würde eine hohe Wirkung vermutet.
• Die Bewertungen würden den gesamten Entwicklungs- und Einsatzzyklus abdecken und angepasst, wenn sich ein System oder seine Aufgabe ändert.
• Der wissenschaftliche Vorschlag soll weiter überarbeitet werden; Testmethoden, Schwellenwerte und Haftungsregeln müssen noch genauer ausgearbeitet werden.