Key Takeaways
- Da Deepfakes immer einfacher zu erstellen sind, sind neue und verbesserte Möglichkeiten, sie zu erkennen, zu einer Priorität geworden.
- Die Deepfake-Erkennungstechnologie von Facebook verwendet Reverse Machine Learning, um herauszufinden, ob ein Video ein Deepfake ist oder nicht.
- Experten sagen, dass die Verwendung von Blockchain-Technologie der beste Weg wäre, um festzustellen, ob ein Video echt ist oder nicht, da die Methode auf Kontextdaten beruht.
Facebook vertraut auf sein maschinelles Lernmodell zur Bekämpfung von Deepfakes, aber Experten sagen, dass maschinelles Lernen allein uns nicht davor bewahren wird, von Deepfakes getäuscht zu werden.
Unternehmen wie Facebook, Microsoft und Google arbeiten alle daran, die Verbreitung von Deepfakes im Web und in sozialen Netzwerken zu verhindern. Obwohl sich die Methoden unterscheiden, gibt es eine potenziell narrensichere Methode, um diese falschen Videos zu erkennen: Blockchains.
„[Blockchains] bieten Ihnen einfach viel Potenzial, um den Deepfake auf eine Weise zu validieren, die die beste Form der Validierung ist, die ich sehen kann “, Stephen Wolfram, Gründer und CEO von Wolfram Research und Autor von A New Kind of Science, sagte Lifewire am Telefon.
Facebooks Deepfake-Spotting-Technologie
Deepfake-Technologie ist in den letzten Jahren rasant gewachsen. Die irreführenden Videos verwenden Methoden des maschinellen Lernens, um beispielsweise das Gesicht einer anderen Person auf den Körper einer anderen Person zu legen, Hintergrundbedingungen zu ändern, Lippensynchronisation vorzutäuschen und vieles mehr. Sie reichen von harmlosen Parodien bis hin dazu, Prominente oder Personen des öffentlichen Lebens dazu zu bringen, etwas zu sagen oder zu tun, was sie nicht getan haben.
Experten sagen, dass sich die Technologie schnell weiterentwickelt und dass Deepfakes nur überzeugender (und einfacher zu erstellen) werden, wenn die Technologie breiter verfügbar und innovativer wird.
Facebook hat kürzlich in Partnerschaft mit der Michigan State University mehr Einblick in seine Deepfake-Erkennungstechnologie gegeben. Das soziale Netzwerk sagt, es verlasse sich auf Reverse Engineering von einem einzelnen, von künstlicher Intelligenz generierten Bild zu dem generativen Modell, das zu seiner Erstellung verwendet wurde.
Wissenschaftler, die mit Facebook zusammengearbeitet haben, sagten, dass die Methode darauf beruht, die einzigartigen Muster hinter dem KI-Modell aufzudecken, das verwendet wird, um einen Deepfake zu erzeugen.
“Durch die Verallgemeinerung der Bildzuordnung zur Open-Set-Erkennung können wir mehr Informationen über das generative Modell ableiten, das zur Erstellung eines Deepfakes verwendet wird, das über die Erkennung hinausgeht, dass es noch nie zuvor gesehen wurde. Und indem wir Ähnlichkeiten zwischen Mustern einer Sammlung von Deepfakes aufspüren, könnten wir auch feststellen, ob eine Reihe von Bildern aus einer einzigen Quelle stammt“, schreiben die Forscher Xi Yin und Tan Hassner in Facebooks Blogbeitrag über ihre Deepfake-Erkennungsmethode.
Wolfram sagt, es sei sinnvoll, maschinelles Lernen einzusetzen, um ein fortschrittliches KI-Modell (ein Deepfake) zu erkennen. Es gibt jedoch immer Raum, um die Technologie zu täuschen.
„Ich bin überhaupt nicht überrascht, dass es eine anständige Methode des maschinellen Lernens gibt, um [Deepfakes zu erkennen]“, sagte Wolfram. „Die Frage ist nur, wenn Sie sich genug Mühe geben, können Sie es täuschen? Ich bin mir sicher, dass du das kannst.“
Deepfakes anders bekämpfen
Stattdessen sagte Wolfram, dass er glaubt, dass die Verwendung von Blockchain die beste Option wäre, um bestimmte Arten von Deepfakes genau zu erkennen. Seine Meinung zur Verwendung von Blockchain gegenüber maschinellem Lernen geht auf das Jahr 2019 zurück, und er sagte, dass der Blockchain-Ansatz letztendlich eine genauere Lösung für unser Deepfake-Problem bieten kann.
„Ich würde erwarten, dass Bild- und Videobetrachter routinemäßig mit Blockchains (und ‚Datentriangulationsberechnungen‘) vergleichen könnten, ein bisschen so, wie Webbrowser jetzt Sicherheitszertifikate überprüfen“, schrieb Wolfram in einem Artikel, der in Scientific American veröffentlicht wurde.
Da Blockchains Daten in Blöcken speichern, die dann in chronologischer Reihenfolge verkettet werden, und da dezentrale Blockchains unveränderlich sind, sind die eingegebenen Daten irreversibel.
Die einzige Frage ist, wenn du dich genug anstrengst, kannst du es täuschen? Ich bin mir sicher, dass du das kannst.
Wolfram erklärte, dass Sie durch das Einfügen eines Videos in eine Blockchain die Aufnahmezeit, den Ort und andere Kontextinformationen sehen könnten, anhand derer Sie feststellen könnten, ob es in irgendeiner Weise geändert wurde.
"Im Allgemeinen gilt: Je mehr Metadaten vorhanden sind, die das Bild oder Video kontextualisieren, desto wahrscheinlicher ist es, dass Sie dies erkennen können", sagte er. „Auf einer Blockchain kann man keine Zeit vortäuschen.“
Wolfram sagte jedoch, dass die verwendete Methode – ob maschinelles Lernen oder die Verwendung von Blockchain – von der Art des Deepfakes abhängt, vor dem Sie sich schützen möchten (z. B. ein Video von Kim Kardashian, das etwas Dummes sagt, oder ein Video von einem Politiker, der eine Erklärung oder einen Vorschlag macht).
"Der Blockchain-Ansatz schützt vor bestimmten Arten von Deepfakes, genauso wie die maschinell lernende Bildverarbeitung vor bestimmten Arten von Deepfakes schützt", sagte er.
Das Entscheidende scheint für uns alle Wachsamkeit zu sein, wenn es darum geht, die kommende Deepfake-Flut zu bekämpfen.
