Adobe untersucht mit KI, wie sich bestimmte Bildmanipulationen erkennen lassen, und unterstützt mit Content Credentials nachvollziehbare Herkunftsinformationen. Das sind zwei unterschiedliche Ansätze gegen irreführende Medien. Ein Detektor sucht nach Hinweisen auf Bearbeitung; ein Herkunftsnachweis dokumentiert Informationen zu Erstellung und Änderungen. Keiner davon beweist allein, dass ein dargestelltes Ereignis wirklich stattgefunden hat.
Was sind Deep Fakes?
Deep Fakes, meist als „Deepfakes“ geschrieben, sind künstlich erzeugte oder manipulierte Medien, die Personen etwas sagen oder tun lassen können, was sie tatsächlich nicht gesagt oder getan haben. Dazu gehören Bild-, Video- und Audioinhalte. Nicht jeder Deepfake sieht überzeugend aus, doch ein realistischer Eindruck ist ebenfalls kein zuverlässiger Echtheitsnachweis.
Ein früher schädlicher Einsatz waren sexualisierte Fälschungen ohne Zustimmung der dargestellten Personen. Weitere Risiken sind Identitätsmissbrauch, erfundene öffentliche Aussagen und betrügerische Zahlungsaufforderungen. Diese Probleme betreffen nicht nur bekannte Persönlichkeiten: Auch eine vermeintliche Sprachnachricht aus dem eigenen Arbeitsumfeld kann für Täuschungen genutzt werden.
Ob eine Plattform einen Inhalt entfernt, hängt von ihren geltenden Regeln und dem konkreten Inhalt ab. Die pauschale Aussage, sämtliche Deepfakes seien auf Facebook verboten, ist deshalb keine brauchbare Beschreibung. Für die eigene Prüfung sollte ohnehin die Quelle wichtiger sein als die Tatsache, dass ein Video auf einer bekannten Plattform erscheint.
Wie entstehen solche Fälschungen?
KI-Systeme lernen Muster aus Bildern, Aufnahmen oder Sprache und können damit neues Material erzeugen oder vorhandenes verändern. Gesichtstausch, Lippensynchronisation und Stimmenimitation sind unterschiedliche Aufgaben. Sie benötigen nicht zwangsläufig dieselben Datenmengen oder denselben technischen Aufbau.
Die frühere Beschreibung, dafür seien immer Tausende Aufnahmen einer Person nötig, war zu allgemein. Welche Eingaben benötigt werden, hängt vom Verfahren ab. Aus der Menge öffentlich verfügbarer Fotos lässt sich daher nicht sicher ableiten, ob eine bestimmte Person imitiert werden kann.
Außerdem ist nicht jede Täuschung ein Deepfake. Ein echtes Foto mit einer falschen Ortsangabe, ein alter Film als angeblich aktuelle Nachricht oder ein aus dem Zusammenhang geschnittener Satz können ebenfalls irreführen. Eine Prüfung, die ausschließlich nach KI-Spuren sucht, übersieht diese einfacheren Manipulationen.
Wie hilft Adobe bei der Bekämpfung von Deep Fakes?
Adobe Research berichtete 2019 über Forschung zu Gesichtsveränderungen mit Photoshops Face-Aware-Liquify-Funktion. Das untersuchte Modell sollte solche Veränderungen erkennen und Ansätze zu ihrer Rückführung liefern. Es ging um eine bestimmte Art von Bildbearbeitung, nicht um einen universellen Test für alle künstlichen Videos.
Adobes weitere Arbeiten zur Bildforensik beschäftigen sich ebenfalls mit Bearbeitungsspuren. Solche Forschung kann erklären, welche Merkmale bei bestimmten Verfahren auffallen. Ein erfolgreiches Ergebnis in einem beschriebenen Versuchsaufbau bedeutet jedoch nicht, dass jede Aufnahme aus sozialen Medien mit gleicher Sicherheit beurteilt werden kann.
Für die Einordnung eines Detektors sind deshalb seine Aufgabe und seine Grenzen wichtig. Wurde er für Fotos oder Videos entwickelt? Welche Bearbeitung soll er erkennen? Wurde die Datei verkleinert, komprimiert oder mehrfach exportiert? Ohne diese Informationen ist eine Prozentangabe allein schwer zu bewerten. Sie sollte nicht als endgültiges Urteil über eine Person oder ein Ereignis verwendet werden.
Was ein Hash tatsächlich aussagt
Ein Hash ist ein aus Daten berechneter Prüfwert. Ändert sich der verglichene Dateiinhalt, kann auch der Prüfwert abweichen. Das hilft dabei, Dateien miteinander zu vergleichen oder ihre Verbindung zu einem signierten Datensatz zu prüfen. Es ist aber keine Methode, die automatisch erkennt, ob eine Szene erfunden wurde.
Auch ein gewöhnlicher Export oder eine andere Dateibearbeitung kann die Daten verändern. Ein abweichender Hash beantwortet deshalb zunächst die Frage nach der Übereinstimmung bestimmter Daten. Er erklärt weder den Zweck der Änderung noch deren Wahrheitsgehalt. Die frühere Gleichsetzung von verändertem Hash und wahrscheinlichem Deepfake greift zu kurz.
Content Credentials und ihre Grenzen
Adobe unterstützt Content Credentials auf Grundlage des C2PA-Standards. Solche digital signierten Herkunftsinformationen können Auskunft über verwendete Werkzeuge, Erstellungsprozesse und Bearbeitungen geben. Bei der Prüfung lässt sich feststellen, ob die zugehörigen Nachweise gültig sind und unverändert mit dem Medium zusammenhängen.
Die C2PA-Erläuterung unterscheidet diese technische Prüfung ausdrücklich von einem Urteil darüber, ob eine Aussage wahr ist. Ein korrekt dokumentiertes Foto kann eine inszenierte Szene zeigen. Ebenso kann eine echte Aufnahme ohne lesbare Herkunftsinformationen weitergegeben worden sein.
Fehlende Metadaten beweisen daher keine Fälschung. Umgekehrt sollte ein sichtbarer Nachweis nicht dazu führen, die Bildunterschrift ungeprüft zu übernehmen. Lies, welche Informationen tatsächlich bestätigt werden, und trenne diese von den Behauptungen des Beitrags.
Eine verdächtige Aufnahme praktisch prüfen
- Suche den ursprünglichen Beitrag. Prüfe, wer ihn veröffentlicht hat und ob Datum und Kontext nachvollziehbar sind.
- Sieh Dir möglichst die vollständige Aufnahme an. Ein kurzer Ausschnitt kann eine Aussage verändern, ohne technisch manipuliert worden zu sein.
- Prüfe vorhandene Herkunftsinformationen und lies die Angaben zu Bearbeitungen. Ein Symbol allein ersetzt diese Prüfung nicht.
- Vergleiche die konkrete Behauptung mit unabhängigen Berichten oder einer direkten Stellungnahme der betroffenen Organisation.
- Bestätige ungewöhnliche Geld- oder Datenanfragen über einen getrennten, bereits bekannten Kontaktweg.
Dokumentiere bei wichtigen Entscheidungen, welche Version Du geprüft hast und was ungeklärt bleibt. Auffällige Übergänge oder unpassende Lippenbewegungen können Anlass für weitere Nachfragen sein. Ihr Fehlen beweist aber keine Echtheit. Wenn die Quelle offenbleibt, sollte auch die Beschreibung des Materials diese Unsicherheit erkennen lassen.
