Südkorea verabschiedet weltweit erstes umfassendes KI-Gesetz und will Innovation und Sicherheit in Einklang bringen

Südkorea übernimmt mit dem KI-Grundlagengesetz weltweit die Vorreiterrolle

Südkorea hat offiziell ein umfassendes Gesetzespaket zur Regulierung künstlicher Intelligenz verabschiedet, das nach eigenen Angaben weltweit das erste seiner Art ist. Das sechsköpfige, 43 Artikel umfassende „KI-Grundlagengesetz“ trat am Donnerstag in Kraft. Es schafft einen regulatorischen Rahmen, der ein ungewöhnlich breites Spektrum an KI-Anwendungen und Akteuren abdeckt. Das Gesetz soll die Bürger schützen und zugleich eine „Grundlage für Vertrauen“ in einer zunehmend von KI geprägten Gesellschaft schaffen, wie es Regierungsvertreter beschreiben.

Mit diesem wegweisenden Schritt liegt Südkorea vor anderen großen Volkswirtschaften, wenn es darum geht, einen einheitlichen Ansatz für die KI-Governance zu schaffen. Die Europäische Union begann zwar im vergangenen Jahr mit der Umsetzung einiger KI-bezogener Vorschriften, der Großteil ihres KI-Gesetzes wird jedoch erst ab August schrittweise eingeführt. In den Vereinigten Staaten gibt es weiterhin kein bundesweites KI-Gesetz. Das Weiße Haus erließ allerdings im vergangenen Monat eine Verordnung, die sich gegen „übermäßige“ Gesetze einzelner Bundesstaaten richtet, die nach Ansicht der Regierung KI-Innovationen behindern. China verfolgt einen anderen Ansatz und hat bestimmte Bestimmungen zur Ethik und Risikoüberwachung in sein bestehendes Cybersicherheitsgesetz aufgenommen.

Das südkoreanische KI-Grundlagengesetz ist ein bedeutender Schritt in den weltweiten Bemühungen, Technologien der künstlichen Intelligenz zu regulieren. Das Gesetz verfolgt zwei sich ergänzende Ziele: Es soll das Wachstum der südkoreanischen KI-Branche fördern und zugleich die notwendigen Schutzmaßnahmen einführen, um Bürger vor möglichen Risiken beim Einsatz von KI zu bewahren.

Wir gehen dabei von der grundlegendsten Ebene des weltweiten Konsenses aus. Ziel ist nicht, die Entwicklung von KI durch Regulierung aufzuhalten. Es geht darum, dafür zu sorgen, dass die Menschen sie vertrauensvoll nutzen können.

Diese Äußerungen von Kim Kyeong-man, stellvertretendem Minister im Büro für KI-Politik des IKT-Ministeriums, verdeutlichen Südkoreas Absicht, einen ausgewogenen Rahmen zu schaffen, der den technologischen Fortschritt nicht behindert und zugleich öffentliche Bedenken hinsichtlich Sicherheit und Zuverlässigkeit berücksichtigt.

Definition von KI-Systemen mit großer Wirkung

Ein zentrales Merkmal des neuen südkoreanischen Gesetzes ist der Fokus auf „KI mit großer Wirkung“ – Systeme, die das Potenzial haben, das Leben, die Sicherheit oder die Grundrechte von Menschen erheblich zu beeinflussen. Das Gesetz nennt ausdrücklich elf kritische Bereiche, in denen KI-Systeme einer verstärkten Aufsicht unterliegen und höhere Transparenzanforderungen erfüllen müssen:

• Energieversorgungssysteme
• Prozesse zur Trinkwasseraufbereitung
• Gesundheitsversorgungssysteme
• Entwicklung und Einsatz von Medizinprodukten
• Verwaltung von Kernmaterialien und kerntechnischen Anlagen
• Analyse biometrischer Informationen für strafrechtliche Ermittlungen
• Bewertungen bei Beschäftigung und Kreditvergabe
• Verkehrssysteme und deren Verwaltung
• Entscheidungen der Regierung mit Auswirkungen auf öffentliche Dienstleistungen
• Bewertung von Schülern im Bildungswesen
• Weitere Bereiche mit erheblichen Auswirkungen auf Leben, Sicherheit und Rechte von Menschen

Für solche Anwendungen mit großer Wirkung müssen Unternehmen mehrere wichtige Schutzmaßnahmen umsetzen. Auf Nachfrage müssen sie die Entscheidungslogik ihres KI-Systems erklären können, sicherstellen, dass Menschen bei Bedarf eingreifen können, und Nutzer klar darüber informieren, dass sie mit einem KI-gestützten Dienst interagieren. Das gilt beispielsweise für Systeme, mit denen Bewerber für Kredite oder Arbeitsplätze ausgewählt werden.

Das Gesetz unterscheidet zwischen „KI mit großer Wirkung“ und „Hochleistungs-KI“, wie Südkorea letztere bezeichnet. Während sich die Europäische Union in ihren Vorschriften vor allem auf anwendungsspezifische Risiken konzentriert, verfolgt Südkorea einen anderen Ansatz: Technische Schwellenwerte bestimmen, welche Systeme reguliert werden müssen. Zu diesen Schwellenwerten gehören Kennzahlen wie der kumulierte Rechenaufwand beim Training. Dadurch würde nur eine sehr begrenzte Zahl fortschrittlicher Modelle den strengsten Sicherheitsanforderungen unterliegen.

Nach Angaben der südkoreanischen Regierung erfüllt derzeit kein bestehendes KI-Modell im In- oder Ausland die Kriterien für eine Regulierung nach dieser Bestimmung zur Hochleistungs-KI. Auch gebe es momentan keine inländischen Dienste, die in die Kategorie „KI mit großer Wirkung“ fallen. Vollautonome Fahrzeuge ab Level 4 könnten die Kriterien künftig jedoch erfüllen.

Transparenzanforderungen und Kennzeichnung von KI

Zu den sichtbarsten Aspekten der südkoreanischen KI-Regulierung gehören Transparenzanforderungen für KI-generierte Inhalte. Nach dem neuen Gesetz müssen Unternehmen KI-generierte Inhalte, die mit der Realität verwechselt werden könnten, deutlich oder hörbar kennzeichnen, beispielsweise mit Wasserzeichen. Die Vorgabe richtet sich insbesondere gegen Deepfake-Inhalte und andere KI-Erzeugnisse, die das Risiko von Fehlinformationen oder Täuschung bergen.

Die Kennzeichnung hängt von der Art des Inhalts ab. Wenn es für Sicherheit oder Authentizität entscheidend ist, echte von KI-generierten Inhalten unterscheiden zu können, ist eine sichtbare Kennzeichnung vorgeschrieben. Bei kreativen Inhalten, die mit KI erstellt wurden, etwa bei Spielen, Animationen oder Webtoons, lässt das Gesetz jedoch weniger aufdringliche Offenlegungsmethoden zu. Dazu zählt eine Kennzeichnung in Metadaten, die für Endnutzer nicht unbedingt sofort sichtbar ist.

Dieser differenzierte Ansatz wirft in Branchen wie der Webtoon-Produktion Fragen auf. Plattformen und Kreative wissen nicht, wie weit der Begriff „KI-generiert“ gefasst ist. Unklar ist insbesondere, ob eine teilweise Nutzung von KI – etwa zur Erstellung von Hintergründen, zum Kolorieren oder zur Bearbeitung – bereits eine Kennzeichnungspflicht auslösen könnte. Das Gesetz reguliert nicht einzelne Nutzer, die KI-Werkzeuge verwenden. Es gilt jedoch für Plattformen und Unternehmen, die KI-gestützte Kreativwerkzeuge anbieten oder KI-generierte Werke verbreiten.

Wasserzeichen auf KI-generierten Inhalten sind die Mindestmaßnahme, um Nebenwirkungen des Missbrauchs von KI-Technologie wie Deepfake-Inhalte zu verhindern.

Diese Aussage eines Ministeriumsvertreters unterstreicht, welchen Stellenwert die Regierung der Kennzeichnung als grundlegender Schutzmaßnahme gegen den Missbrauch von KI beimisst. Die Transparenzanforderungen gehen über die Kennzeichnung von Inhalten hinaus und umfassen auch verpflichtende Hinweise, wenn Nutzer mit KI-gestützten Diensten interagieren. Unternehmen müssen Nutzer vorab informieren, wenn sie Produkte oder Dienstleistungen anbieten, die Hochleistungs-KI oder generative KI nutzen, in der Regel etwa durch Pop-up-Hinweise oder gut sichtbare Mitteilungen.

Governance-Struktur und Unterstützung der Branche

Das KI-Grundlagengesetz schafft eine umfassende Governance-Struktur für die KI-Politik in Südkorea. Das Ministerium für Wissenschaft und IKT ist die federführende Behörde für die Umsetzung der KI-Politik. Der Nationale KI-Ausschuss berät unter dem Präsidenten über die grundsätzliche Ausrichtung der KI-Politik und entscheidet darüber. Außerdem richtet das Gesetz ein Zentrum für KI-Politik und ein Institut für KI-Sicherheit ein, die die Umsetzung der Politik unterstützen und sich mit Sicherheitsfragen befassen sollen.

Neben den Regulierungsmaßnahmen enthält das Gesetz zahlreiche Bestimmungen zur Förderung der Entwicklung und des Wachstums der KI in Südkorea. Dazu gehören Unterstützung für Forschung und Entwicklung im Bereich KI, die Standardisierung von KI-Technologie, die Entwicklung von KI-Trainingsdaten sowie Maßnahmen, die Unternehmen bei der Einführung und Nutzung von KI-Technologien helfen sollen. Besonderes Augenmerk liegt auf der Unterstützung kleiner und mittlerer Unternehmen, Start-ups und der Förderung von Fachkräften im KI-Bereich.

Das Gesetz schafft zudem die rechtliche Grundlage für einen „KI-Grundplan“, der als politischer Fahrplan für die Entwicklung von KI-Technologie in Südkorea dienen soll. Dieser umfassende Ansatz trägt der Erkenntnis Rechnung, dass erfolgreiche KI-Regulierung nicht nur Beschränkungen, sondern auch eine aktive Förderung von Innovation und Wettbewerbsfähigkeit auf dem globalen KI-Markt erfordert.

Um Unternehmen zunächst zu entlasten, hat die südkoreanische Regierung eine mindestens einjährige Übergangsfrist eingeführt. In dieser Zeit führen die Behörden keine Sachverhaltsprüfungen durch und verhängen keine Verwaltungssanktionen, sondern konzentrieren sich auf Beratung und Aufklärung. Eine eigens eingerichtete Anlaufstelle zum KI-Gesetz unterstützt Unternehmen dabei festzustellen, ob ihre Systeme unter das Gesetz fallen und wie sie angemessen darauf reagieren können.

Die Beratungsstelle zum Rahmengesetz für KI wird von Fachleuten aus Organisationen wie dem Institut für KI-Sicherheit und der Nationalen Agentur für die Informationsgesellschaft betreut. Sie bietet vertrauliche Beratung und Orientierung für alle, die künstliche Intelligenz entwickeln, geschäftlich nutzen oder einsetzen und dabei die neuen Vorschriften einhalten möchten.

Anforderungen an die Einhaltung und Sanktionen

Unternehmen, die in Südkorea tätig sind oder Dienste für koreanische Nutzer anbieten, müssen nach dem neuen Gesetz bestimmte Vorgaben einhalten. Ausländische KI-Unternehmen, die bestimmte Kriterien erfüllen – etwa einen weltweiten Jahresumsatz von mindestens einer Billion Won (681 Millionen US-Dollar), Inlandsumsätze von mindestens zehn Milliarden Won oder mindestens eine Million tägliche Nutzer im Land –, müssen einen lokalen Vertreter benennen, der als Ansprechpartner für die Behörden dient. Derzeit fallen große Unternehmen wie OpenAI und Google unter diese Vorgaben.

KI-Anbieter werden in zwei Kategorien eingeteilt: KI-Entwicklungsanbieter, die KI entwickeln und bereitstellen, sowie KI-Anwendungsanbieter, die mithilfe der von Entwicklern bereitgestellten KI Produkte oder Dienstleistungen anbieten. Für beide Kategorien gelten Transparenzpflichten. Im Mittelpunkt der Regulierung stehen jedoch weiterhin KI mit großer Wirkung und generative KI-Systeme.

Die Durchsetzung des südkoreanischen Gesetzes ist im Vergleich zu anderen Rechtsordnungen bewusst zurückhaltend gestaltet. Es sieht keine strafrechtlichen Sanktionen vor. Stattdessen haben bei Verstößen zunächst Abhilfemaßnahmen Vorrang. Geldbußen von bis zu 30 Millionen Won (26.200 US-Dollar) werden nur verhängt, wenn solche Anordnungen missachtet werden. Wie Regierungsvertreter betont haben, steht damit die Einhaltung der Vorschriften im Vordergrund, nicht die Bestrafung.

Zum Vergleich: Der Rechtsrahmen der EU sieht deutlich strengere Sanktionen vor. Je nach Art des Verstoßes können Geldbußen von bis zu sieben Prozent des weltweiten Jahresumsatzes verhängt werden. Der erhebliche Unterschied bei der Höhe der Sanktionen spiegelt Südkoreas erklärtes Ziel wider, mit möglichst wenigen Vorschriften einen grundlegenden Sicherheitsrahmen zu schaffen.

Nach südkoreanischem Recht können drei konkrete Verstöße mit Geldbußen geahndet werden: die Behörden nicht über KI-gestützte Tätigkeiten zu informieren, wenn Produkte oder Dienstleistungen mit KI mit großer Wirkung oder generativer KI angeboten werden; keinen inländischen Vertreter zu benennen, obwohl dies vorgeschrieben ist; und Aussetzungs- oder Abhilfeanordnungen des Ministers für Wissenschaft und IKT nicht nachzukommen.

Reaktionen der Branche und Bedenken von Start-ups

Die Regierung stellt das KI-Grundlagengesetz als ausgewogenen Ansatz dar, der Innovation fördert und zugleich Sicherheit gewährleistet. In der Technologiebranche teilen jedoch nicht alle diese Einschätzung. Südkoreanische Start-ups äußern Bedenken wegen des möglichen Aufwands für die Einhaltung der neuen Vorschriften, zumal diese früher in Kraft treten als vergleichbare Regelwerke in anderen Ländern.

Einer Umfrage der Startup Alliance zufolge haben nur zwei Prozent der auf KI spezialisierten Start-ups einen formellen Plan zur Einhaltung der Vorschriften. Rund die Hälfte räumt ein, die Anforderungen des neuen Gesetzes nicht vollständig zu verstehen. Diese mangelnde Klarheit verunsichert Gründer, die befürchten, vage Formulierungen im Gesetz könnten sie dazu zwingen, bei der Entwicklung übervorsichtig vorzugehen, um regulatorische Risiken zu vermeiden.

Es gibt schon eine gewisse Verbitterung – warum müssen ausgerechnet wir die Ersten sein?

Diese Aussage von Lim Jung-wook, dem Co-Vorsitzenden der südkoreanischen Startup Alliance, bringt den Frust mancher Unternehmer darüber zum Ausdruck, dass sie umfassenden KI-Vorschriften unterliegen, bevor ihre globalen Wettbewerber dies tun. Viele Gründer fragen sich, ob Südkoreas Vorreiterrolle bei der KI-Regulierung dem Land einen Vorteil verschafft oder seine Unternehmen international benachteiligt.

Präsident Lee Jae Myung hat diese Bedenken anerkannt und die Verantwortlichen aufgefordert, auf Rückmeldungen aus der Branche zu hören und für ausreichende Unterstützung von Venture-Unternehmen und Start-ups zu sorgen. Bei einem kürzlichen Treffen mit Mitarbeitern betonte Lee, wie wichtig es sei, das Potenzial der Branche durch institutionelle Unterstützung bestmöglich auszuschöpfen und zugleich absehbare Nebenwirkungen vorausschauend zu bewältigen.

Das Ministerium für Wissenschaft und IKT hat auf diese Bedenken mit Plänen für eine Informationsplattform und ein eigenes Unterstützungszentrum für Unternehmen während der Übergangsfrist reagiert. Ein Sprecher erklärte, die Regierung prüfe weiterhin Maßnahmen, um die Belastung der Branche zu minimieren. Außerdem werde eine Verlängerung der Übergangsfrist erwogen, falls die Lage der Branche im In- und Ausland dies rechtfertige.

Vergleich mit internationalen Ansätzen

Das südkoreanische KI-Grundlagengesetz folgt einer eigenen regulatorischen Philosophie, die sich von den Ansätzen anderer großer Volkswirtschaften unterscheidet. Das Gesetz nimmt sowohl auf das US-amerikanische Modell Bezug, das der Autonomie des Privatsektors Vorrang gibt, als auch auf das EU-Regulierungsmodell, das Sicherheit und Zuverlässigkeit betont. Letztlich hat Südkorea einen eigenen Weg gewählt, der möglichst geringe Regulierung mit der Förderung von KI verbinden soll, um zu einem weltweit führenden Land bei der Wettbewerbsfähigkeit im KI-Bereich zu werden.

Wie das KI-Gesetz der EU definiert Südkoreas Rechtsrahmen KI-Systeme und legt verschiedene Pflichten für KI mit großer Wirkung fest, darunter Folgenabschätzungen für Grundrechte (FRIAs). Wie umfangreich die Regulierung im Einzelnen ausfällt, kann sich jedoch durch künftige Durchführungsbestimmungen ändern, die in der ersten Jahreshälfte 2025 veröffentlicht werden sollen.

Ein wesentlicher Unterschied zwischen dem südkoreanischen und dem europäischen Ansatz betrifft die Struktur der Pflichten. Das EU-KI-Gesetz unterscheidet je nach Art der Beteiligten in der KI-Wertschöpfungskette zwischen verschiedenen Pflichten. Das südkoreanische Rahmengesetz für KI legt die Pflichten hingegen umfassend fest, ohne zwischen den verschiedenen Beteiligten zu unterscheiden. Dieser einfachere Ansatz könnte die Komplexität verringern, aber auch Schwierigkeiten dabei verursachen, die unterschiedlichen Bereiche des KI-Ökosystems angemessen zu beaufsichtigen.

Auch bei der Definition von KI mit großer Wirkung unterscheidet sich Südkoreas Ansatz von der Methode der EU. Während die EU auf anwendungsspezifische Risiken abzielt und KI in Bereichen wie Gesundheitswesen, Personalbeschaffung und Strafverfolgung reguliert, legt Südkorea anhand technischer Schwellenwerte fest, welche Systeme reguliert werden müssen. Dazu gehören Kennzahlen wie der kumulierte Rechenaufwand beim Training. Angesichts der aktuellen technischen Möglichkeiten könnte dadurch eine deutlich kleinere Zahl von Systemen reguliert werden.

Die Unterschiede in der Regulierung sind auch bei den Sanktionen für Verstöße erkennbar. Die EU sieht strenge Sanktionen mit Geldbußen von bis zu sieben Prozent des weltweiten Jahresumsatzes vor. Südkoreas Rechtsrahmen hingegen begrenzt Verwaltungsgeldbußen auf 30 Millionen Won (rund 26.200 US-Dollar). Dieser deutliche Unterschied spiegelt Südkoreas Schwerpunkt auf Einhaltung und Korrektur statt Bestrafung wider.

Globale Folgen und Ausblick

Mit der Verabschiedung eines umfassenden KI-Gesetzes nimmt Südkorea erheblichen Einfluss auf die globale KI-Landschaft. Als zweites Land nach der Europäischen Union, das einen umfassenden Rechtsrahmen zur KI-Regulierung eingeführt hat, liefert Südkorea ein neues gesetzgeberisches Beispiel, an dem sich andere Staaten bei der Entwicklung eigener Ansätze zur KI-Governance orientieren könnten.

Dass das Gesetz trotz der politischen Turbulenzen rund um die Ausrufung des Kriegsrechts durch Präsident Yoon Suk Yeol und sein anschließendes Amtsenthebungsverfahren verabschiedet wurde, zeigt den parteiübergreifenden Konsens über die Bedeutung der KI-Regulierung. Das Gesetz wurde am 26. Dezember 2024 mit überwältigender parteiübergreifender Unterstützung in der Plenarsitzung der Nationalversammlung verabschiedet. Dies unterstreicht die breite politische Einigkeit darüber, dass die Herausforderungen durch KI angegangen werden müssen.

Südkoreanische Regierungsvertreter haben betont, dass das aktuelle Gesetz einen Ausgangspunkt und kein fertiges Regelwerk darstellt. Die konkrete Umsetzung vieler Bestimmungen hängt von Durchführungsbestimmungen und branchenspezifischen Leitlinien ab. Diese sollen während der einjährigen Vorbereitungsphase vor dem vollständigen Inkrafttreten des Gesetzes im Januar 2026 fertiggestellt werden.

Die koordinierende Rolle des Nationalen KI-Ausschusses wird entscheidend sein, wenn Südkorea das Fachwissen der zuständigen Ministerien unter Berücksichtigung der Besonderheiten verschiedener Regulierungsbereiche und Branchen aufeinander abstimmt. Da sich KI-Technologie in allen Bereichen ausbreitet – von personenbezogenen Daten und Urheberrecht bis hin zu Gesundheitswesen und Verteidigung –, erfordert eine wirksame Governance eine sorgfältige Abstimmung zwischen den verschiedenen Regierungsbehörden.

Mit der Intensivierung der weltweiten Diskussionen über Normen und Governance im Bereich KI ist der Bedarf an internationaler Interoperabilität und Zusammenarbeit bei der Regulierung, um die Vertrauenswürdigkeit von KI zu gewährleisten, weiter gestiegen. Südkoreas Ansatz könnte diese internationalen Diskussionen beeinflussen, insbesondere bei der Frage, wie sich Innovation und Sicherheitsbedenken in der KI-Governance miteinander vereinbaren lassen.

Das Wichtigste auf einen Blick

• Südkorea hat mit dem KI-Grundlagengesetz das weltweit erste umfassende KI-Gesetz verabschiedet. Es regelt Entwicklung, Einsatz und Nutzung künstlicher Intelligenz.
• Das Gesetz definiert „KI mit großer Wirkung“ in elf kritischen Bereichen, darunter Gesundheitswesen, Finanzwesen, Verkehr und öffentliche Dienstleistungen. Für diese gelten eine verstärkte Aufsicht und die Möglichkeit menschlichen Eingreifens.
• KI-generierte Inhalte müssen gekennzeichnet werden. Für Inhalte, die mit der Realität verwechselt werden könnten, sind sichtbare Wasserzeichen vorgeschrieben. Kreative Werke wie Webtoons und Animationen können weniger auffällig gekennzeichnet werden.
• Ausländische KI-Unternehmen, die bestimmte Umsatz- oder Nutzerzahlen erreichen, müssen einen lokalen Vertreter in Südkorea benennen.
• Geldbußen bei Verstößen sind auf 30 Millionen Won (26.200 US-Dollar) begrenzt. Das ist deutlich weniger als die Geldbußen in der EU, die bis zu sieben Prozent des weltweiten Jahresumsatzes betragen können.
• Das Gesetz sieht eine einjährige Übergangsfrist vor. In dieser stehen Beratung statt Bestrafung im Mittelpunkt. Eine eigene Anlaufstelle unterstützt Unternehmen dabei, die Vorschriften einzuhalten.
• Start-ups haben Bedenken wegen des Aufwands und vager Formulierungen im Gesetz geäußert. Nur zwei Prozent geben an, über einen formellen Plan zur Einhaltung der Vorschriften zu verfügen.
• Das Gesetz soll Südkorea zu einer der drei weltweit führenden KI-Nationen machen und zugleich eine Vertrauensgrundlage für KI-Technologie schaffen.
• Südkoreas Ansatz unterscheidet sich von dem der EU: Bei der Regulierung fortschrittlicher KI-Systeme stützt er sich auf technische Schwellenwerte statt auf anwendungsspezifische Risiken.
• Die vollständige Umsetzung beginnt im Januar 2026, nach einer einjährigen Vorbereitungsphase für Durchführungsbestimmungen und detaillierte Leitlinien.