Ein kleines Label bei einem wachsenden Problem
Die Schauspielerinnen Janhvi Kapoor, Keerthy Suresh und Sunainaa haben sich gegen den Missbrauch ihrer Abbilder in KI-generierten Deepfakes ausgesprochen und nach anstößigen Bildern und Videos rechtliche Schritte angekündigt. Ihre Erfahrungen werfen für Social-Media-Plattformen eine praktische Frage auf: Wie leicht können Zuschauer erkennen, ob die Person auf dem Bildschirm digital erzeugt wurde?
Inhalt
CB Arun Kumar, Experte für visuelle Effekte und Dekan für Kommunikation, Film und Gaming an der Pearl Academy, fordert Gesetze, die eine klare und gut sichtbare Kennzeichnung von KI-generierten Inhalten vorschreiben. Er argumentiert, dass bestehende Hinweise leicht zu übersehen seien und so manipuliertes Material wie ein authentisches Foto, eine echte Aufnahme oder ein tatsächliches Nachrichtengeschehen wirken könne.
Im Zentrum seiner Kritik steht Instagrams Kennzeichnung „AI Info“. Der Hinweis erscheine in kleiner Schrift zwischen dem Benutzernamen des Kontos und dem veröffentlichten Bild oder Video, sagt er. Ihm geht es um die Sichtbarkeit: Ein Hinweis hilft Zuschauern kaum, wenn sie weiterscrollen, ohne ihn zu bemerken.
Arun Kumar erläuterte, warum er strengere Kennzeichnungspflichten fordert:
Wir brauchen strengere Gesetze, die eine klare und gut sichtbare Kennzeichnung von KI-Inhalten vorschreiben, damit diese sich nicht länger als Nachrichten ausgeben können – wie manche Katastrophenvideos, die sich im Internet verbreiten. Das eigentliche Problem entsteht, wenn das Publikum nicht mehr unterscheiden kann, was echt und was gefälscht ist.
Sein Vorschlag setzt bei zwei miteinander verbundenen Problemen an. Schauspielerinnen und Schauspieler erleben den persönlichen Schaden, wenn ihre Identität in anstößigem Material auftaucht. Das Publikum läuft Gefahr, eine inszenierte Szene für etwas zu halten, das tatsächlich geschehen ist. Ein gut sichtbares Label würde Zuschauern direkt beim Ansehen des Bildes einen Hinweis geben, bevor sie entscheiden, ob sie es glauben oder teilen.
Was ist den Schauspielerinnen passiert?
Kapoor, Suresh und Sunainaa gehören zu den Schauspielerinnen, die schockiert reagiert oder protestiert haben, nachdem ihre Abbilder in anstößigen Deepfake-Bildern oder -Videos aufgetaucht waren. Dazu gehören auch Ankündigungen rechtlicher Schritte gegen die Verantwortlichen des Missbrauchs.
Ein Deepfake ist ein Bild, Video oder eine Tonaufnahme, die mithilfe von KI erstellt oder verändert wurde, sodass jemand scheinbar etwas tut oder sagt, was die Person nicht getan oder gesagt hat. Bei einer Schauspielerin können erkennbare Gesichtszüge die Fälschung überzeugend wirken lassen, obwohl sie an ihrer Erstellung nie beteiligt war.
Unmittelbar geht es um die Kontrolle über die eigene Identität. Schauspielerinnen und Schauspieler können selbst entscheiden, welche Rollen sie annehmen, welche Fotos sie veröffentlichen und für welche Produkte sie werben. Ein gefälschtes Bild kann dieselbe Person jedoch in einer Szene zeigen, der sie nie zugestimmt hat, während Zuschauer zunächst annehmen, der Auftritt sei echt.
Arun Kumar fordert eine strengere gesetzliche Regelung. Er kündigt nicht an, dass eine neue Vorschrift bereits in Kraft getreten sei. In seinen Äußerungen nannte er weder einen konkreten Gesetzentwurf noch eine Frist für die Umsetzung oder eine geplante Strafe.
Gefälschte Bilder gab es schon vor der KI
Arun Kumar ordnet die aktuelle Debatte in eine längere Geschichte manipulierter Bilder aus der Unterhaltungsbranche ein. Vor den heutigen KI-Werkzeugen konnten Menschen mit Doubles, Photoshop und visuellen Effekten wie Klonen und Morphing falsche Szenen erstellen.
Beim Klonen werden Elemente innerhalb eines Bildes oder einer Sequenz kopiert. Morphing verwandelt ein Bild in ein anderes und kann dabei auch ein Gesicht oder sein Aussehen verändern. Beides kann in der Filmproduktion legitime Zwecke erfüllen, da Zuschauer dort inszenierte Szenen erwarten. Problematisch wird es, wenn manipuliertes Material als echte Aufzeichnung des Verhaltens einer Person ausgegeben wird.
KI bietet eine weitere Möglichkeit, solches Material zu erstellen – auch für Menschen, die mit Aufmerksamkeit und Verbreitung schnell Geld verdienen wollen. Arun Kumar argumentiert, die Technologie müsse danach beurteilt werden, wie sie eingesetzt werde. Gegen Verantwortliche für anstößige Inhalte sollten die bereits verfügbaren rechtlichen Mittel genutzt werden.
Arun Kumar sagte, das geltende Recht biete bereits Möglichkeiten, die Entfernung solcher Inhalte zu verlangen:
Es gibt bereits zahlreiche rechtliche Möglichkeiten, solche anstößigen Inhalte entfernen zu lassen.
Entfernung und Kennzeichnung setzen an unterschiedlichen Punkten derselben Kette an. Mit einer Löschung soll erreicht werden, dass ein Bild nach einer Beschwerde nicht länger verfügbar ist. Ein deutlich sichtbares Label hilft Menschen, den Inhalt einzuschätzen, solange er noch auf ihren Bildschirmen zu sehen ist. Sein Vorschlag rückt beide Aufgaben in den Mittelpunkt: auf schädliches Material zu reagieren und seinen künstlichen Ursprung leichter erkennbar zu machen.
Warum die Größe eines Labels zählt
Der kleine KI-Hinweis auf Instagram zeigt, wie groß der Unterschied zwischen einer Kennzeichnung und einer tatsächlich hilfreichen Information sein kann. Arun Kumar möchte, dass Plattformen den Hinweis so deutlich anzeigen, dass gewöhnliche Nutzer ihn ohne langes Suchen rund um das Bild erkennen können.
Ein gefälschtes Katastrophenvideo zeigt, warum das über die Prominentenkultur hinaus wichtig ist. Wer vermeintliche Aufnahmen eines echten Notfalls sieht, muss erkennen können, ob die Szene künstlich erzeugt wurde. Andernfalls kann das Bild die Vorstellung von einem Ereignis prägen, das sich nie so zugetragen hat.
Für Schauspielerinnen und Schauspieler ist das Problem persönlicher. Ihr Gesicht macht das gefälschte Bild erkennbar und zieht Aufmerksamkeit auf sich. Wer das Label übersieht, kann die Szene zunächst mit der betreffenden Person in Verbindung bringen, ohne zu wissen, wie sie entstanden ist.
Arun Kumar fordert deshalb, Informationen nicht nur bereitzustellen, sondern auch so darzustellen, dass sie wahrgenommen werden. Eine Plattform kann einen Hinweis neben einem Beitrag platzieren – doch Größe und Position entscheiden mit darüber, ob er das Publikum erreicht. Sein Anspruch ist eindeutig: Der künstliche Ursprung muss auf den ersten Blick erkennbar sein.
Einwilligung ist für Kreative eine eigene Frage
Arun Kumar unterscheidet auch zwischen einer pauschalen Ablehnung von KI und der Kritik daran, dass Werke von Kreativen ohne Erlaubnis verwendet werden. Ersteres ist ein Urteil über eine ganze Technologie. Letzteres betrifft die Frage, wie bestimmtes Material beschafft und genutzt wurde.
Beim Training lernt ein KI-System anhand von Beispielen Muster. Dazu können Bilder, Texte, Tonaufnahmen oder Videos gehören. Kreative, die das Training kritisieren, fragen, was geschieht, wenn ihre Werke ohne Einwilligung Teil dieses Prozesses werden.
Diese Frage geht über sichtbare Deepfakes hinaus. Eine Schauspielerin kann sich gegen eine gefälschte Darstellung wehren, während ein Illustrator oder eine andere kreative Person dagegen protestiert, dass ihr Werk für die Entwicklung des Systems verwendet wurde, das neue Bilder erzeugt. Betroffen sein können unterschiedliche Personen, und auch die beanstandeten Handlungen können verschieden sein.
Arun Kumar argumentiert, eine pauschale Verurteilung von KI übersehe diese Unterschiede. Seine Haltung lässt Raum für legitime kreative Anwendungen und nimmt zugleich Einwände gegen die Verwendung ohne Erlaubnis ernst. Für Leserinnen und Leser sind die entscheidenden Fragen konkret: Wessen Identität ist zu sehen, wessen Werk wurde verwendet und welche Erlaubnis lag vor?
Digitalkünstler geraten bei ihren Einnahmen unter Druck
Grafikerinnen und Grafiker, die in den Bereichen Medien, Wirtschaft, Film, Fernsehen, Architektur und Mode arbeiten, sind laut Arun Kumar mit einer weiteren Folge der zunehmenden Verbreitung von KI konfrontiert. Es geht um ihre Möglichkeit, ihren Lebensunterhalt zu verdienen, wenn Unternehmen bestimmte Arten von Bildmaterial schneller erzeugen können.
Arun Kumar sagt, dass Arbeiten, die sorgfältige menschliche Arbeit erfordern, an kommerziellem Wert verlieren, wenn KI-generierte Inhalte zu einer Konkurrenz werden. Kunden, die entscheiden, wie ein Bild entstehen soll, können neben den Fähigkeiten und dem Urteilsvermögen eines Künstlers auch Geschwindigkeit und Kosten abwägen.
Der Druck kann auch beeinflussen, wie menschliche Arbeit wahrgenommen wird. Arun Kumar warnt, dass sorgfältig erstellte Bilder mit minderwertigen KI-Erzeugnissen verglichen werden könnten. Für Kreative bedeutet das, den Wert ihrer Arbeit in einem Markt zu vermitteln, in dem Publikum und Kunden zunehmend beides sehen.
Arun Kumar beschrieb den Druck auf Arbeitsplätze und seinen Rat an Kreative:
Die Realität ist, dass die KI-Revolution ihnen die Arbeit wegnimmt, weil sie sie schneller erledigen kann. Echte Künstlerinnen und Künstler, die KI als weiteres Werkzeug in ihren Arbeitsablauf integrieren können, werden bestehen und erfolgreich sein.
Ein Arbeitsablauf bezeichnet die Abfolge der Schritte, mit denen ein kreatives Projekt von der ersten Idee bis zum fertigen Bild oder Film umgesetzt wird. Arun Kumar rät dazu, herauszufinden, wie sich KI in diesen Prozess integrieren lässt, und zugleich eigene Entscheidungen und handwerkliches Können in die Arbeit einzubringen.
Seine Prognose ist für Kreative, die sich anpassen, optimistisch. Zugleich erkennt er die unmittelbare Belastung für Menschen an, deren Einkommen von Aufgaben abhängt, die sich mithilfe von KI schneller erledigen lassen. Schauspielerinnen und Schauspieler, die Schutz vor gefälschten Darstellungen suchen, und Kreative, die mit günstigeren Angeboten konkurrieren müssen, erleben unterschiedliche Seiten desselben technologischen Wandels.
Das Wichtigste in Kürze
- Janhvi Kapoor, Keerthy Suresh und Sunainaa gehören zu den Schauspielerinnen, die gegen den Missbrauch ihrer Abbilder in Deepfakes protestiert haben.
- CB Arun Kumar, Dekan an der Pearl Academy und VFX-Experte, fordert Gesetze, die eine klare und gut sichtbare Kennzeichnung von KI-Inhalten vorschreiben.
- Er argumentiert, dass kleine Hinweise wie Instagrams Kennzeichnung „AI Info“ für Zuschauer leicht zu übersehen sind.
- Er spricht sich für Maßnahmen gegen schädliche KI-Anwendungen aus und äußert Bedenken, dass Werke von Kreativen ohne Einwilligung verwendet werden.
- Digitalkünstler geraten laut ihm bei ihren Einnahmen unter Druck und sollten lernen, KI in ihre kreativen Arbeitsabläufe zu integrieren.
