TikTok führt KI-Inhaltsprüfer und globales Tool zur Erkennung von Deepfakes ein

8 Min. Lesezeit
TikTok Adds AI Content Checker and Global Tool to Flag Possible Deepfakes

Zwei Tools zielen auf KI-Kennzeichnungen und unbefugte Abbilder ab

TikTok führt zwei Tools ein, mit denen Nutzer überprüfen können, ob Medien mit den KI-Erstellungsfunktionen der Plattform erstellt wurden, und berechtigte Personen des öffentlichen Lebens KI-generierte Inhalte finden können, die möglicherweise ihr Bildmaterial ohne Erlaubnis verwenden. Der öffentliche Prüfer ist ohne TikTok-Konto verfügbar. Die zweite Funktion, die Abbilderkennung (Likeness Detection), ist optional und wird schrittweise für berechtigte Creator und Personen des öffentlichen Lebens weltweit eingeführt.

Inhalt
  1. Zwei Tools zielen auf KI-Kennzeichnungen und unbefugte Abbilder ab
  2. Was kann der öffentliche Prüfer untersuchen?
  3. Warum sowohl Metadaten als auch ein verstecktes Wasserzeichen verwenden?
  4. Wie funktioniert die Abbilderkennung?
  5. Warum TikTok die Einführung mit Wahlen verknüpft
  6. Die Erkennung ist ein Teil der Inhaltsprüfung
  7. Wie sich die Tools im Vergleich zu anderen Plattformmaßnahmen schlagen
  8. Was Sie wissen müssen

Der Prüfer sucht nach zwei Arten von Hinweisen: Content Credentials, die aufzeichnen können, wie eine digitale Datei erstellt oder bearbeitet wurde, und VeraDura, dem unsichtbaren Wasserzeichen von TikTok. Nach Angaben des Unternehmens wurden bereits mehr als 5 Milliarden KI-generierte Videos gekennzeichnet. Eine separate Funktion ermöglicht es Zuschauern anzupassen, wie viele KI-generierte Inhalte in ihrem „Für dich“-Feed angezeigt werden.

Der Zeitpunkt der Veröffentlichung wird auf zwei Arten beschrieben: Die japanische Ankündigung von TikTok ist auf den 20. November 2026 datiert, während der globale Start zudem auf einer Veranstaltung in London am 19. November bekannt gegeben wurde. Francesca Scapolo, Leiterin der Regierungsbeziehungen für europäische Wahlen bei TikTok, sprach auf dieser Veranstaltung, als das Unternehmen das Abbild-Tool mit den Vorbereitungen für die Wahlen im Jahr 2027 verknüpfte.

Die Tools adressieren unterschiedliche Probleme. Der Prüfer kann nach Anzeichen dafür suchen, dass unterstützte TikTok- oder ByteDance-Tools zum Erstellen oder Bearbeiten einer Datei verwendet wurden. Die Abbilderkennung soll registrierte Personen benachrichtigen, wenn Inhalte auf TikTok möglicherweise ihr Gesicht oder ein anderes Abbild verwenden. Keine dieser Funktionen ersetzt eine menschliche Überprüfung eines gemeldeten Beitrags.

Anzeige

Was kann der öffentliche Prüfer untersuchen?

Jeder kann eine Datei über das Transparenzzentrum von TikTok hochladen und überprüfen, ob sie Signale enthält, die mit unterstützten KI-Erstellungstools verbunden sind. Die Benutzeroberfläche akzeptiert Bilder, Videos und Audios, wobei die gemeldeten Upload-Limits bei 20 Megabit für ein Bild und 100 Megabit für eine Video- oder Audiodatei liegen. TikTok gibt an, dass hochgeladene Dateien nicht gespeichert werden.

Zu den unterstützten Tools gehören die eigenen KI-Funktionen von TikTok sowie ByteDance-Anwendungen wie CapCut, Dreamina, Pippit und Hypic. Der Prüfer ist kein allgemeiner Test für jedes KI-Bild, jede KI-Stimme und jedes KI-Video. Er sucht nach Signalen, die mit Produkten von TikTok und ByteDance verbunden sind, sodass Material, das mit anderen Systemen wie Soras von OpenAI oder Veo von Google erstellt wurde, möglicherweise außerhalb seiner Reichweite liegt.

Ein Ergebnis ohne erkanntes Signal kann nicht bestätigen, dass eine Datei echt ist. Eine Person, die ein verdächtiges Video bewertet, muss dennoch berücksichtigen, woher es stammt, ob die abgebildete Person zugestimmt hat und ob andere zuverlässige Beweise ihre Behauptungen stützen.

Warum sowohl Metadaten als auch ein verstecktes Wasserzeichen verwenden?

Content Credentials sind Metadaten – Informationen, die an eine digitale Datei angehängt sind und ihre Erstellungs- und Bearbeitungshistorie beschreiben können. Der Standard wurde von der C2PA-Koalition entwickelt, und TikTok fügt diese Metadaten seit 2024 zu Inhalten hinzu, die mit seinen Tools erstellt wurden. Wenn ein anderer Dienst diese Informationen intakt lässt, kann dies dabei helfen, zu identifizieren, wie die Medien produziert wurden.

Metadaten können verschwinden, wenn eine Datei heruntergeladen, bearbeitet oder über einen Dienst geteilt wird, der sie entfernt. VeraDura soll einen weiteren Hinweis liefern: eine unsichtbare Markierung, die in den Inhalt eingebettet ist und laut TikTok schwerer zu entfernen ist. Der Prüfer sucht nach beiden Arten von Signalen, anstatt sich allein auf die Kennzeichnung des Creators zu verlassen.

TikTok gab an, bis zum 10. Juli 3 Milliarden KI-generierte Videos und etwa vier Monate später mehr als 5 Milliarden gekennzeichnet zu haben. Die Kennzeichnungen können von Creatoren stammen, die ihr eigenes Material kennzeichnen, von Content Credentials oder von der Wasserzeichentechnologie von TikTok. Die steigende Gesamtzahl zeigt, wie breit die Plattform Kennzeichnungen anwendet, während der neue Prüfer es den Menschen ermöglichen soll, Dateien auch außerhalb des normalen Feeds zu untersuchen.

Anzeige

Wie funktioniert die Abbilderkennung?

Die Abbilderkennung ist eine optionale Funktion (Opt-in). Ein Teilnehmer muss seine Identität über einen externen Anbieter verifizieren, bevor TikTok nach möglichen Verwendungen seines Abbilds suchen kann. Das Unternehmen erklärt, dass Identitätsdokumente, die zur Verifizierung verwendet werden, nach dem Prozess von TikTok nicht aufbewahrt werden.

Nach der Registrierung kann ein Teilnehmer Benachrichtigungen erhalten, wenn TikTok Videos oder Konten identifiziert, die möglicherweise sein Erscheinungsbild verwenden. Er kann das Material überprüfen und direkt an das Sicherheitsteam der Plattform melden. TikTok gibt an, dass Inhalte, die gegen die Community-Richtlinien verstoßen, nach einer Prüfung entfernt werden können.

Die Einführung umfasst berechtigte Creator und Personen des öffentlichen Lebens, einschließlich Regierungsstellen, Politiker und politische Parteien. TikTok hat die Kriterien für die Berechtigung nicht veröffentlicht. Das Tool wurde ab Juli mit einer kleinen Gruppe von US-Creator getestet, wobei die Identitätsprüfungen von Jumio abgewickelt wurden, bevor die globale Einführung begann.

Personen, die die Abbilderkennung nicht nutzen können – einschließlich Personen ohne TikTok-Konto –, können mutmaßliche, nicht einvernehmliche KI-Inhalte weiterhin über das Datenschutz-Meldeformular von TikTok melden. Die Erkennungsfunktion ist eine Möglichkeit, einen möglichen Missbrauch zu finden und zu melden, jedoch keine Garantie dafür, dass jede Nachahmung gefunden oder ein markierter Beitrag automatisch entfernt wird.

Warum TikTok die Einführung mit Wahlen verknüpft

TikTok hat auf Wahlen hingewiesen, die 2027 in Italien, Frankreich und Griechenland anstehen. KI-generierte Audio- oder Videodateien können dazu führen, dass eine echte Person etwas sagt oder tut, was nie stattgefunden hat. Während einer Wahl kann sich solches Material verbreiten und Behauptungen über Kandidaten oder Regierungsbeamte verbreiten, bevor Zuschauer die Möglichkeit haben, diese zu überprüfen.

Scapolo bezeichnete den Schutz von Wahlen als zentrale Verantwortung für das Unternehmen. Auf der Sicherheits- und Innovationsveranstaltung in London erklärte die Leiterin der Regierungsbeziehungen für europäische Wahlen bei TikTok:

Den Schutz der Integrität von Wahlen zu gewährleisten, gehört zu den kritischsten Verantwortlichkeiten, die wir bei TikTok haben.

Sie sagte, das Tool könne Politikern und Regierungen helfen, potenziell KI-generierte Inhalte zu identifizieren, die ohne ihre Zustimmung geteilt wurden. Die Europäische Union hat im August begonnen, KI-Transparenzregeln einzuführen, einschließlich Vorschriften zur Kennzeichnung von Deepfakes und anderem KI-generierten Material. Darüber hinaus verlangt TikTok bereits seit mehreren Jahren Kennzeichnungen für realistische KI-generierte Bilder, Audios und Videos.

Anzeige

Die Erkennung ist ein Teil der Inhaltsprüfung

TikTok arbeitet zudem mit mehr als einem Dutzend Faktencheck-Organisationen in mehreren Ländern zusammen, darunter Agence France-Presse, um Videos zu überprüfen, die möglicherweise falsche Informationen enthalten. Diese Arbeit befasst sich damit, ob Behauptungen in einem Video korrekt sind, während der neue Prüfer nach technischen Signalen darüber sucht, wie eine Datei erstellt wurde, und die Abbilderkennung den Menschen hilft, einen möglichen Missbrauch ihrer Identität zu melden.

Diese Unterscheidung ist für Zuschauer wichtig. Ein Video kann KI-generiert sein, ohne eine falsche Behauptung aufzustellen, und ein Video ohne erkanntes KI-Signal kann dennoch irreführend oder manipuliert sein. Eine Kennzeichnung oder das Ergebnis eines Prüfers ist eine Informationseinheit und kein Ersatz für die Überprüfung der Behauptung und ihres Kontextes.

Plattformen verlassen sich zudem verstärkt auf automatisierte Systeme zur Überprüfung von Inhalten wie Fehlinformationen, Hassrede und Pornografie. TikTok gab im Jahr 2025 bekannt, dass Technologieverbesserungen es dem Unternehmen ermöglichen könnten, Moderationsarbeitsplätze und -standorte weltweit zu reduzieren. Die neuen Funktionen bieten zusätzliche Möglichkeiten, bestimmte Arten von synthetischen Medien zu identifizieren, während Meldungen nach wie vor zur Überprüfung an die Sicherheitsteams gehen.

Wie sich die Tools im Vergleich zu anderen Plattformmaßnahmen schlagen

YouTube hat eine ähnliche Abbilderkennungsfunktion für Creator entwickelt, und sein Tool wurde im Mai 2026 für wichtige Creator freigegeben, nachdem es Ende 2025 erstmals für monetarisierte Creator eingeführt worden war. Die Einführung von TikTok richtet sich an berechtigte Creator und Personen des öffentlichen Lebens, mit einem schrittweisen globalen Start und ohne eine öffentliche Liste der Berechtigten.

Die bestehende Steuerung „Themen verwalten“ von TikTok gibt Nutzern eine weitere Wahlmöglichkeit: Sie kann die Menge der im „Für dich“-Feed angezeigten KI-generierten Inhalte anpassen. Dies ändert, was ein Zuschauer sieht, während der Prüfer eine Datei untersucht und sich die Abbilderkennung auf Meldungen zum Bildmaterial einer Person konzentriert.

Für Creator, Personen des öffentlichen Lebens und politische Organisationen besteht der klarste nächste Schritt darin, sich bei Berechtigung anzumelden und Warnungen vor einer Meldung zu überprüfen. Für andere Nutzer kann der öffentliche Prüfer helfen, wenn eine Datei möglicherweise mit einem unterstützten ByteDance-Tool erstellt wurde, während das Datenschutzformular von TikTok eine Option bei vermuteter unbefugter Verwendung eines Abbilds bleibt.

Was Sie wissen müssen

  • Der öffentliche Prüfer von TikTok akzeptiert Bilder, Videos und Audios und kann ohne Konto genutzt werden.
  • Er sucht nach Content-Credentials- und VeraDura-Signalen von unterstützten TikTok- und ByteDance-Tools, nicht von jedem KI-System.
  • Die Abbilderkennung ist eine optionale globale Einführung für berechtigte Creator und Personen des öffentlichen Lebens, einschließlich politischer und behördlicher Konten.
  • Teilnehmer können Warnungen überprüfen und mutmaßlichen Missbrauch melden; TikTok gibt an, dass Identitätsdokumente nicht aufbewahrt werden.
  • TikTok erklärt, mehr als 5 Milliarden KI-generierte Videos gekennzeichnet zu haben, nach 3 Milliarden am 10. Juli.
Diesen Artikel teilen

Das könnte Ihnen auch gefallen