Cut.ProCut.Pro

TikTok startet öffentlichen KI-Detektor und ein Tool gegen Deepfakes

TikTok hat eine Seite geöffnet, auf der jeder prüfen kann, ob ein Foto oder Video aus den eigenen KI-Tools stammt, und die Gesichtserkennung gegen Deepfakes weltweit ausgerollt. Ich erkläre, was das für alle ändert, die mit KI erstellte Videos posten oder Gesicht und Stimme anderer Menschen verwenden.

TikTok startet öffentlichen KI-Detektor und ein Tool gegen Deepfakes

TikTok startet öffentlichen KI-Detektor und ein Tool gegen Deepfakes

TikTok hat am Freitag (20.) zwei Tools angekündigt, die alle betreffen, die mit KI erstellte Videos posten: einen öffentlichen Prüfer, der sagt, ob ein Foto oder Video aus den KI-Tools von TikTok stammt, und die weltweite Ausweitung der Ähnlichkeitserkennung, die Creator warnt, wenn ihr Gesicht in einem Deepfake auftaucht. Die Herkunft eines generierten Videos zu verbergen ist schwieriger geworden, und das Gesicht einer anderen Person zu nutzen riskanter.

Die Informationen stammen von Mobile Time, einem brasilianischen Medium, und von der AFP, übernommen von Free Malaysia Today.

Was die KI-Erkennung ist

Es ist eine Seite im Transparenzzentrum von TikTok, auf der jeder, auch ohne Konto, ein Foto oder Video hochlädt und erfährt, ob es mit den KI-Tools der Plattform erstellt oder bearbeitet wurde. Laut Mobile Time liest die Prüfung zwei Dinge aus:

  • Inhaltsnachweise (C2PA): ein in der Datei gespeicherter Eintrag, der sagt, wie sie entstanden ist. Das ist ein offener Standard, den auch andere Plattformen lesen.
  • Unsichtbares Wasserzeichen, das Mobile Time VeraDura nennt: ein im Bild eingebettetes Signal, das Zuschauer nicht sehen.

Die Grenze liegt im Umfang. Das Tool erkennt, was aus den KI-Tools von TikTok stammt, nicht jedes KI-Video aus dem Internet. Ein anderswo generiertes Video ohne Nachweise schlägt dort nicht an.

Die Plattform sagt, sie habe mehr als 5 Milliarden Videos als KI gekennzeichnet, ebenfalls laut Mobile Time, und der Info-Hub, den sie im Juli eröffnet hat, um das Erkennen generierter Inhalte zu vermitteln, hat 4 Millionen Besuche überschritten.

Was die Ähnlichkeitserkennung ist

Es ist ein Opt-in-Tool für berechtigte Creator und Personen des öffentlichen Lebens, einschließlich Regierungskonten, Politikern und Parteien. Die Person meldet sich an, bestätigt ihre Identität über ein Partnerunternehmen und wird benachrichtigt, wenn ihr Gesicht ohne Erlaubnis in KI-generierten Inhalten auftaucht. Dann entscheidet sie, ob sie es meldet.

TikTok testete das seit Juli nur mit einer kleinen Gruppe von Creatorn in den USA. Damals sagte Sprecher Zachary Kizer gegenüber The Verge, dass die Verifizierung über Jumio läuft, mit Live-Selfie und Ausweis, dass TikTok das Dokument nicht speichert und dass die Gesichtsdaten nur dazu dienen, Übereinstimmungen zu finden, so Digital Trends.

Jetzt ist die Ausweitung weltweit und schrittweise. Der genannte Grund sind Wahlen: Laut AFP verknüpft TikTok das Tool mit den Europawahlen 2027, etwa in Italien, Frankreich und Griechenland, und Francesca Scapolo, zuständig für Regierungsbeziehungen bei den europäischen Wahlen, sagte bei einer Veranstaltung in London, der Schutz der Wahlintegrität gehöre zu den wichtigsten Verantwortungen des Unternehmens. YouTube hat bereits ein ähnliches Tool, das Creator warnt, wenn sie in KI-Videos auftauchen, die sie imitieren.

Gilt das in Brasilien?

Der Start ist laut Mobile Time weltweit, der öffentliche Prüfer sollte also auch auf dem brasilianischen Markt öffnen. Bei der Ähnlichkeitserkennung sieht es anders aus: Sie kommt schrittweise, nur für Personen, die TikTok als berechtigt einstuft, und keine der Quellen nennt die Kriterien oder sagt, wann ein brasilianischer Creator die Einladung bekommt.

Was sich für alle ändert, die KI-Videos posten

Die Kennzeichnungsregel bleibt gleich, aber es ist leichter geworden, zu prüfen, wer sich daran hält.

Die TikTok-Richtlinien verlangen schon jetzt eine Kennzeichnung bei Inhalten, die mit KI erstellt oder stark bearbeitet wurden und realistische Personen oder Szenen zeigen, und sagen, ein Video ohne Kennzeichnung „kann entfernt, eingeschränkt oder gekennzeichnet“ werden. Seit 2024 kennzeichnet TikTok außerdem automatisch, was mit C2PA-Nachweisen von anderen Plattformen kommt.

Du generierst Videos mit den Tools von TikTok und postest sie woanders erneut. Die Datei trägt die Markierung. Jeder, auch die Marke, die dich beauftragt hat, oder der skeptische Follower, kann das jetzt in Sekunden prüfen.

Du baust eine Persona oder einen Avatar mit deinem eigenen Gesicht. Es ändert sich nichts außer der Kennzeichnung, die du ohnehin schon einschalten solltest. Wenn du deine noch aufbaust, erklären wir die Optionen in KI-Persona erstellen: so entsteht eine, die dir ähnlich sieht.

Du verwendest das Gesicht einer anderen Person. Politiker-Parodie, ein Streamer, der Dinge sagt, die er nie gesagt hat, ein Promi, der für ein Produkt wirbt. Genau dieses Format hat das Tool im Visier. Ist die Person angemeldet, bekommt sie dein fertiges Video zum Melden serviert. Wie das auf YouTube endet, haben wir schon bei den KI-Kanälen mit Draco Malfoy gesehen. Ich würde darauf im Moment keinen Kanal aufbauen.

Das ist dieselbe Bewegung wie bei Instagram, das diese Woche den Inhaltsschutz gestartet hat und die Erkennung von KI-Videos testen wird, die das Audio eines anderen Creators wiederverwenden.

Und die Kindersicherung

Das Paket brachte auch den überarbeiteten Begleitmodus mit einer Browser-Version. Das Dashboard zeigt Eltern die Bildschirmzeit, Änderungen bei Followern und Sperren, eine Auswahl der Accounts, denen der Teenager folgt, und die öffentlichen Beiträge der letzten Woche mit den Aufrufen. Eine neue Warnung informiert Eltern, wenn der Teenager mehrfach nach Begriffen zu Selbstverletzung sucht. Wenn dein Publikum oder Team aus Teenagern besteht, kommt das zur KI-Altersprüfung hinzu, die Instagram weltweit ausgerollt hat.

Was du jetzt tun kannst

  1. Schalte die KI-Kennzeichnung bei jedem realistischen generierten Video ein. Wenn du über Cut.Pro auf TikTok veröffentlichst, gibt es im Formular des Netzwerks den Schalter „Mit KI generiert“: Schalte ihn ein, wenn das Video eine realistische Person oder Szene zeigt, die mit KI entstanden ist.
  2. Teste deine eigene Datei im Prüfer, sobald er in Brasilien öffnet, damit du weißt, was die Plattform sieht, bevor jemand anderes für dich nachsieht.
  3. Nimm Gesichter und Stimmen Dritter aus dem Skript, es sei denn, du hast eine schriftliche Erlaubnis.
  4. Wenn du derjenige bist, der kopiert wird, achte auf die Einladung zur Ähnlichkeitserkennung und auf den Inhaltsschutz von Instagram. Wer oft imitiert wird, bekommt zum ersten Mal eine Möglichkeit, den Deepfake zu finden, ohne darauf angewiesen zu sein, dass ein Follower einen Screenshot schickt.
Teilen

Weiterlesen

Weitere Einblicke und Tutorials, mit denen du dich als Content-Ersteller weiterentwickeln kannst.