Wenn Günther Jauch ein Krypto-Investment empfiehlt, sollte das eine seriöse Geldanlage sein. Schließlich gilt der TV-Moderator vielen als besonders vertrauenswürdig und das Video sieht echt aus. Ist es aber nicht. Deepfake-Technologien machen es möglich, Prominente wie zuletzt Markus Lanz, Barbara Schöneberger und eben Günther Jauch scheinbar für etwas werben zu lassen, was diese eigentlich nie empfehlen würden – und das so täuschend echt, dass immer wieder Menschen darauf hereinfallen. Nicht weniger schlimm als der mögliche finanzielle Verlust ist der damit einhergehende Vertrauensverlust. Fotos, Videos und Tonaufnahmen sind heute nicht mehr automatisch glaubwürdige Quellen. In den vergangenen Jahren haben sich die Fälschungen weit entwickelt. Doch die Technologien, die Manipulationen möglich machen, sind auch Teil der Lösung des Problems.
Die bekannteste Herangehensweise ist das Errechnen von Wahrscheinlichkeiten, ob etwas echt ist beziehungsweise von Menschen erzeugt wurde. So arbeiten KI-Detektoren wie Pangram. Das Unternehmen wurde bekannt, weil mit Hilfe seiner Software mehreren Politikern vermeintlich nachgewiesen wurde, dass ihre Reden oder Gastbeiträge von KI verfasst wurden. Vermeintlich deswegen, weil solche Beweise nicht hieb- und stichfest sind. Denn statt einer definitiven Aussage zu einem Einzelfall wird nur eine statistische Wahrscheinlichkeit erstellt. Vergleichbare Tools gibt es auch für Bilder und Videos. Microsoft entwickelte seinen Video Authenticator ursprünglich für den US-Wahlkampf 2020, in dem gezielte Desinformation ein großes Thema war. Auch dieser basiert auf Wahrscheinlichkeiten: Das Programm findet KI-basiert Muster und erkennt typische Probleme von Deepfakes wie Bildübergänge zwischen authentischem und generiertem Material oder auch Unterschiede in der Bildschärfe. Das Problem: Die KI-Systeme, die Inhalte generieren, werden immer besser, weshalb es auch immer schwieriger wird, entsprechende Merkmale zu erkennen. Das gilt auch für KI-Tools, die letztlich das Gleiche tun wie Menschen: nach Fehlern suchen, wie zum Beispiel sechs oder sieben Finger an einer menschlichen Hand. Doch so einfach ist das heute nicht mehr und in vielen Fällen gar nicht möglich.
Deshalb konzentriert sich die Industrie zunehmend auf kryptografische Beweise wie digitale Signaturen oder sogenannte Hashes. Diese sind gewissermaßen fälschungssichere Siegel, die technisch überprüft werden können. Letztlich ist das bewährte, gut erforschte Kryptografie, also die Technik, die zum Beispiel in HTTPS-Zertifikaten oder signierten Software-Updates steckt.
Der Standard C2PA bildet die Grundlage für eines der größten bereits bestehenden Ökosysteme zur Herkunfts- und Echtheitsprüfung digitaler Inhalte. Daran beteiligen sich unter anderem Adobe, Microsoft, Sony, Leica, Nikon, die BBC und die Nachrichtenagentur AP. Dabei signiert eine Kamera direkt bei der Aufnahme Bilder und Videos kryptografisch in Form eines Hashes – eine Art digitaler Fingerabdruck der genauen Pixeldaten. Dazu kommen Metadaten wie das Kameramodell, Zeitstempel oder GPS-Daten. Auch jede spätere Bearbeitung eines Bildes wird wiederum signiert und in die Bilddatei eingebettet, sodass sich die ganze Kette überprüfen lässt. Um die Herkunft von Bildern und Videos zu verifizieren, prüft man mit dem öffentlichen Schlüssel des Zertifikateinhabers, ob die Signatur zum Zertifikat passt.
Allerdings gibt es auch hier einen Haken: Die Technologie beweist zwar, woher eine Datei kryptografisch stammt, aber nicht, dass eine Kamera etwas Reales fotografiert hat. Sie könnte auch auf einen Bildschirm gerichtet sein, auf dem Deepfakes gezeigt werden. Außerdem deckt das bei Weitem nicht alle Fälle ab, in denen man Informationen geprüft wissen will. Denn das ist ja gerade bei Ereignissen der Fall, bei denen keine Profi-Fotografen mit solch hochmodernem Equipment vor Ort sind und in Echtzeit mit privaten Smartphones erstelltes Material per Social Media verbreitet wird.
Wenn der Fake-Chef anruft
Videokonferenzen ermöglichen persönliche Gespräche und sich dabei in die Augen zu schauen über Städte und Länder hinweg. Doch auch dieser Kommunikationsweg ist nicht mehr sicher. Cyberkriminelle haben Videokonferenzen besonders in Unternehmen für eine neue Betrugsmasche entdeckt. Technologien können Bilder von Personen und deren Stimmen in Echtzeit so realistisch darstellen, dass ein Chef nicht erkennt, ob da wirklich seine Mitarbeitenden in der Leitung sind oder es sich um Deepfakes handelt.
Vor diesem Zweig des Identitätsbetrugs warnt das Fraunhofer-Institut für Sichere Informationstechnologie SIT und macht auf einen starken Anstieg solcher Fälle aufmerksam. Im Rahmen eines Forschungsprojektes haben Fraunhofer-Forschende eine Software entwickelt, die Teilnehmenden bei sicherheitskritischen Calls kontinuierlich Hinweise geben soll, wie wahrscheinlich ein Deepfake ist. Wie andere Detektoren basiert das System auf dem Errechnen von Wahrscheinlichkeiten. Nach einer entsprechenden Warnung, so die Forschenden, sei dann immer noch der menschliche Teilnehmer gefragt, durch gezielte Fragen oder Rückruf auf einem anderen Kanal die Identität des Gegenübers zu verifzieren. Verfügbar ist das Programm derzeit noch nicht, es soll im nächsten Schritt mit Unternehmen und Videokonferenzanbietern erprobt werden.
