Südkoreas kostenloser KI-Zugang stellt auf die Probe, ob Schutzmaßnahmen mit den Risiken Schritt halten

Eine öffentliche KI-Infrastruktur muss sich in der Praxis bewähren

Südkorea bereitet einen kostenlosen Zugang zu künstlicher Intelligenz für alle Bürgerinnen und Bürger vor. Damit sollen Chatbots und KI-Agenten für Menschen verfügbar werden, die sie für Schularbeiten, die Gesundheitsversorgung, öffentliche Dienstleistungen und alltägliche Entscheidungen nutzen könnten. Die Initiative mit dem Namen „KI für alle“ soll die Technologie breit zugänglich machen und dem Land helfen, im Wettbewerb mit den USA und China zu bestehen. Zugleich rückt eine schwierige Frage in den Mittelpunkt: Können Schutzmaßnahmen Schritt halten, wenn KI zu einem festen Bestandteil des öffentlichen Lebens wird?

Die Regierung von Präsident Lee Jae Myung will zunächst einen Betatest starten und anschließend prüfen, ob aus dem Versuch von kommendem Jahr an ein dauerhaftes, aus Steuermitteln finanziertes Angebot werden soll. Der geplante Dienst soll Menschen mit KI-Werkzeugen für allgemeine Zwecke verbinden, die von drei südkoreanischen Konsortien unter der Leitung von SK Telecom, KT und Kakao entwickelt wurden. Die Regierung hat den Gruppen Hunderte Grafikprozessoren vom Typ Nvidia B200 geliehen. Die Spezialchips werden zum Trainieren und Betreiben anspruchsvoller KI-Systeme eingesetzt.

Langfristig sollen KI-Assistenten Menschen dabei helfen, Arzttermine zu buchen, eine Wohnung zu suchen und über staatlich angebundene Dienste Auskünfte zu Steuern einzuholen. Das könnte die Nutzung öffentlicher Angebote erleichtern, insbesondere für Menschen, die mit komplizierten Formularen oder langen Wartezeiten zu kämpfen haben. Zugleich könnten Fehler, Datenschutzverletzungen oder voreingenommene Empfehlungen Menschen betreffen, die auf grundlegende Dienstleistungen angewiesen sind.

Die Regierung hat für den Ausbau bis 2027 250 Milliarden Won bereitgestellt, zusätzlich zu einem KI-Haushalt von 10 Billionen Won für das laufende Haushaltsjahr. Der Umfang spiegelt eine nationale Strategie wider, KI-Kapazitäten aufzubauen und den Zugang breit zu ermöglichen, statt ihn auf Menschen zu beschränken, die sich private Abonnements leisten können. Der Versuch soll zeigen, ob kostenloser Zugang zu einer nützlichen öffentlichen Infrastruktur führt und ob die Bürger den Systemen vertrauen können, die ihre Informationen und Fragen verarbeiten.

Warum warnen führende KI-Vertreter vor der Technologie?

Südkoreas Pläne kommen zu einem Zeitpunkt, an dem prominente Vertreter der KI-Branche vor ernsthaften Risiken der rasanten Entwicklung warnen. Dario Amodei, Vorstandschef von Anthropic, hat die Branche dazu aufgerufen, das Tempo zu drosseln. Ein ehemaliger Ingenieur bei Anthropic, der zuvor auch bei OpenAI gearbeitet hatte, sagte nach seinem Ausscheiden aus dem Unternehmen, er sei „wirklich beängstigt“ von der Möglichkeit, dass eine ungebremste Entwicklung bedeute: „Wir könnten alle in unmittelbarer Zukunft sterben.“ Auch der Informatiker Geoffrey Hinton, Nobelpreisträger und oft als „Pate der KI“ bezeichnet, hat gewarnt, dass fortgeschrittene Systeme eine existenzielle Gefahr darstellen könnten, wenn sie sich der menschlichen Kontrolle entzögen.

Die Warnungen betreffen mögliche Gefahren, die von autonomen Waffen und maschinell gesteuerten Cyberangriffen bis hin zu Massenarbeitslosigkeit reichen. Andere Risiken sind bereits vertrauter: überzeugende gefälschte Bilder und Videos, diskriminierende automatisierte Entscheidungen und Menschen, die sich auf Systeme verlassen, die selbstbewusst formulierte, aber ungenaue Antworten geben. Eine öffentliche Einführung schafft diese Gefahren nicht alle erst, kann die Risiken aber erhöhen, weil KI dadurch in großem Maßstab leichter zugänglich wird.

KI-Systeme für allgemeine Zwecke erzeugen Antworten, indem sie Muster in Daten erkennen, statt die Welt im menschlichen Sinne zu verstehen. Sie können beim Verfassen und Zusammenfassen von Texten sowie bei der Suche nach Informationen nützlich sein, stellen aber möglicherweise Falsches als Tatsache dar. In staatlichen oder gesundheitsbezogenen Bereichen brauchen Nutzer eine klare Möglichkeit, Antworten zu überprüfen und eine zuständige Person zu erreichen, die sie korrigieren kann.

Welche Schutzmaßnahmen führt Seoul ein?

Südkorea stützt sich auf sein KI-Grundgesetz, das im Januar in Kraft trat, um den zunehmenden Einsatz von KI zu regeln. Der Rahmen sieht menschliche Aufsicht, Folgenabschätzungen und eine eindeutige Kennzeichnung synthetischer Inhalte vor. Diese Maßnahmen sollen KI-generierte Inhalte leichter erkennbar machen und Organisationen dazu verpflichten, mögliche Schäden zu prüfen, bevor sie Systeme einsetzen.

Ein staatlich finanziertes KI-Sicherheitsinstitut soll außerdem Risiken bewerten und als technische Aufsichtsinstanz fungieren. Seine Arbeit wird ebenso wichtig sein wie die formalen Regeln: Es muss prüfen, ob Systeme zuverlässig funktionieren, sensible Daten geschützt sind und Nutzer weitreichende Entscheidungen anfechten können. Eine Folgenabschätzung ist nur dann sinnvoll, wenn sie Auswirkungen in der Praxis untersucht und bei auftretenden Problemen zu Änderungen führt.

Die geplante Anbindung an staatliche Dienste macht klare Zuständigkeiten besonders wichtig. Gibt ein KI-Assistent falsche Steuerauskünfte oder bearbeitet eine Terminanfrage für eine medizinische Behandlung fehlerhaft, sollten Nutzer wissen, welche Behörde verantwortlich ist und wo sie Hilfe bekommen. Das System darf nicht zu einer Barriere zwischen Bürgern und den zuständigen Entscheidungsträgern werden. Menschliche Prüfung ist nur dann sinnvoll, wenn sie zugänglich und zeitnah erfolgt und automatisierte Empfehlungen überstimmen kann.

Kostenloser Zugang bedeutet nicht, dass der Betrieb nichts kostet. Öffentliche Stellen müssen für Rechenleistung, Sicherheit, Wartung und Evaluierung aufkommen und zugleich entscheiden, wie viele persönliche Daten ein Dienst speichern soll. Investitionen der Regierung in Hard- und Software sind nur ein Teil eines dauerhaft verfügbaren öffentlichen Angebots; Aufsicht und Unterstützung erfordern fortlaufende Mittel.

Arbeitsplätze und Missbrauch durch Deepfakes stehen bereits in der Debatte

Einige Sorgen in Südkorea gründen auf Schäden, die bereits heute auftreten. Die Bank von Korea meldete, dass die Zahl der Erwerbstätigen zwischen 15 und 29 Jahren von Juni 2022 bis Juni dieses Jahres um 285.000 zurückging. Nach ihrer Schätzung entfielen 94 Prozent des Rückgangs auf Branchen, die stark von Automatisierung betroffen sind. Die Zahlen weisen auf eine erhebliche Überschneidung zwischen der Beschäftigung junger Menschen und dem technologischen Wandel hin, belegen aber nicht, dass KI allein für den Rückgang verantwortlich ist. Auch die Wirtschaftslage und andere Veränderungen bei Einstellungen können sich auf die Beschäftigung auswirken.

Automatisierung kann einzelne Aufgaben ersetzen, ohne einen ganzen Beruf abzuschaffen. Das ist für Beschäftigte, deren Einstiegsaufgaben automatisiert werden oder deren Arbeitgeber weniger Personal einstellen, dennoch kaum ein Trost. Jüngere Arbeitnehmer könnten besonders betroffen sein, wenn routinemäßige Verwaltungs- oder Dienstleistungsaufgaben traditionell den Einstieg ins Berufsleben ermöglicht haben. Die Politik muss bei der Ausbreitung von KI nicht nur die Gesamtbeschäftigung, sondern auch die Qualität der Arbeitsplätze und die Einstellungsentwicklung beobachten.

Für viele Südkoreaner ist der unmittelbarste Grund zur Sorge der kriminelle Missbrauch, insbesondere sexuell missbräuchliche Deepfakes. Der Fall Nth Room, ein Online-Skandal um sexuelle Ausbeutung aus dem Jahr 2020, und spätere Fälle trugen dazu bei, dass 2024 strengere Gesetze gegen Deepfakes verabschiedet wurden. Laut Zahlen, die bei einem kürzlich abgehaltenen Forum von Amnesty International Korea vorgestellt wurden, registrierte die Polizei im vergangenen Jahr dennoch 1.553 Straftaten im Zusammenhang mit Deepfakes.

Won Eun-ji, Leiterin der Ermittlungsgruppe Team Flame für digitale Sexualverbrechen, hat in diesem Jahr einen Großteil ihrer Zeit damit verbracht, gemeinsam mit dem Recherchemedium Newstapa rund 50 Telegram-Chats beizutreten. Sie hat dokumentiert, wie KI-Werkzeuge den Kreis anonymer Täter vergrößert und das Alter der Opfer gesenkt haben. Mit Bildgeneratoren und Werkzeugen zum Austauschen von Gesichtern lässt sich missbräuchliches Material leichter erstellen; verschlüsselte oder anonyme Online-Räume können Ermittlungen und die Rechenschaftspflicht erschweren.

Das Strafrecht ist nur ein Teil der Antwort; auch Prävention und Unterstützung sind wichtig. Opfer brauchen eine schnelle Entfernung der Bilder, praktische Hilfe bei der Meldung von Missbrauch und Schutz vor weiterer Verbreitung. Wenn KI-Werkzeuge breiter zugänglich werden, müssen Zugangskonzepte berücksichtigen, dass Systeme zur Erstellung oder Verbreitung schädlicher Inhalte missbraucht werden können, selbst wenn ihr vorgesehener Zweck harmlos ist.

Auch an Schulen muss sich der Nutzen von KI bewähren

Auch im Bildungsbereich gibt es zunehmend Konflikte. Lehrkräfte protestierten im vergangenen Jahr gegen den kurzlebigen Plan der Regierung, 1,2 Billionen Won für KI-gestützte Schulbücher auszugeben. Dabei ging es nicht nur um die Frage, ob die Software funktioniert. Sie fragten auch, was Schüler verlieren, wenn ein System eine Antwort liefert, bevor sie selbst eine Aufgabe durchdacht haben.

Song Keun-sang, ein Grundschullehrer der fünften Klasse aus der Provinz South Chungcheong, der sich dem Protest anschloss, sagte, KI „gibt einem einfach die Antworten“ und „hat keinen großen pädagogischen Wert“. Seine Kritik verweist auf einen grundlegenden Unterschied in der Bildung: Eine Aufgabe zu erledigen ist nicht dasselbe, wie zu lernen, wie man sie bewältigt. Ein Werkzeug, das eine schwierige Idee erklärt oder Übungen an einen Schüler anpasst, kann helfen. Eines, das Lesen, Nachdenken oder Schreiben umgeht, kann diese Fähigkeiten schwächen.

Sorgen über sinkende Leseleistungen verleihen der Debatte zusätzliche Dringlichkeit, sollten aber nicht als Beleg dafür gelten, dass KI Veränderungen bei den Leistungen von Schülern verursacht hat. Schulen brauchen Erkenntnisse darüber, wie sich bestimmte Werkzeuge auf Textverständnis, Aufmerksamkeit und selbstständiges Arbeiten auswirken. Lehrkräfte müssen außerdem bei der Entscheidung mitwirken, wann KI den Unterricht unterstützt und wann sie im Lernprozess keinen Platz haben sollte.

Für Klassenzimmer können andere Regeln gelten als für allgemeine Chatbots. Schüler brauchen altersgerechte Schutzmaßnahmen, klare Grenzen für die Erhebung von Daten und Aufgaben, bei denen ihr eigenes Verständnis geprüft wird. KI kann Lehrkräfte bei der Vorbereitung unterstützen oder Lernenden eine weitere Erklärung liefern, aber sie kann weder die pädagogische Beziehung ersetzen noch die Bedürfnisse jedes einzelnen Schülers zuverlässig beurteilen.

Kann allgemeiner Zugang Vertrauen in der Öffentlichkeit schaffen?

„KI für alle“ ist ein ehrgeiziger Versuch, den Zugang zu KI als öffentliche Infrastruktur zu behandeln. Das Modell könnte dazu beitragen, eine Lücke zu verkleinern, durch die fortgeschrittene Werkzeuge vor allem wohlhabenden Einzelpersonen und großen Unternehmen zur Verfügung stehen. Ein zuverlässiger Assistent könnte Menschen dabei helfen, Informationen zu finden, routinemäßige Behördengänge zu erledigen oder Angebote zu nutzen, die schwer zugänglich sind. Diese Vorteile hängen von der Qualität der Werkzeuge und davon ab, ob Nutzer eine Ansprechperson erreichen können, wenn das System versagt.

Ein allgemeiner Zugang verändert auch die Folgen von Gestaltungsentscheidungen. Ein Fehler in einem privaten Chatbot betrifft dessen Nutzer; ein Fehler in einem öffentlichen Dienst kann einen wesentlich größeren Teil der Bevölkerung erreichen. Ist ein System an öffentliche Register oder Arbeitsabläufe von Behörden angebunden, können Sicherheitsverletzungen und ungenaue Ausgaben über ein einzelnes Gespräch hinaus Folgen haben. Strenge Datenschutzgrenzen, unabhängige Tests, transparente Leistungsdaten und Möglichkeiten, Entscheidungen anzufechten, werden mit darüber entscheiden, ob der Dienst Vertrauen gewinnt.

Südkorea verfügt über eine starke Technologiebranche und die Mittel, einen umfangreichen Versuch durchzuführen. Die zentrale Herausforderung besteht darin, den Dienst nicht nur technisch leistungsfähig, sondern auch gegenüber der Öffentlichkeit rechenschaftspflichtig zu machen. Dazu gehört, offenzulegen, welche Daten die Systeme erheben, klarzustellen, wer für Fehler verantwortlich ist, und genügend Informationen für eine externe Prüfung zu veröffentlichen. Außerdem muss gemessen werden, ob der Dienst den Menschen tatsächlich hilft, statt die Zahl der Nutzer oder verfügbaren Funktionen als Erfolgsbeleg zu behandeln.

Der Start wird zeigen, ob öffentliche Investitionen den Zugang erweitern und zugleich menschliches Urteilsvermögen in Bereichen bewahren können, in denen Fehler echte Folgen haben. Südkoreas Gesetze und Sicherheitsinstitut geben einen Rahmen vor, doch ihr Wert wird sich daran messen lassen, wie sie in der Praxis funktionieren, wenn KI in Klassenzimmer, an Arbeitsplätze und in Behörden Einzug hält.

Die wichtigsten Punkte

• Südkorea plant einen kostenlosen KI-Testbetrieb, der von Konsortien unter Beteiligung von SK Telecom, KT und Kakao getragen wird.
• Die Regierung will KI zu einem dauerhaften öffentlichen Angebot machen, das mit Diensten wie Terminbuchungen und Steuerauskünften verbunden ist.
• Das KI-Grundgesetz schreibt menschliche Aufsicht, Folgenabschätzungen und die Kennzeichnung synthetischer Inhalte vor.
• Zu den Sorgen um Arbeitsplätze zählt der Rückgang der Zahl Erwerbstätiger zwischen 15 und 29 Jahren, der sich auf Branchen konzentriert, die von Automatisierung betroffen sind.
• Die Polizei registrierte im vergangenen Jahr 1.553 Straftaten im Zusammenhang mit Deepfakes; die Sorge über sexuellen Missbrauch mithilfe von KI-Werkzeugen hält an.
• Lehrkräfte haben KI-gestützte Schulbücher infrage gestellt und argumentiert, dass sofortige Antworten den Lernprozess beeinträchtigen können.