Was ist ein Deepfake? Alles, was Sie wissen müssen

• Deepfakes verwenden künstliche Deep-Learning-Intelligenz, um in Videos und anderen digitalen Medien das Abbild einer Person durch eine andere zu ersetzen. 
• Es gibt Bedenken, dass die Deepfake-Technologie verwendet werden kann, um gefälschte Nachrichten und irreführende, gefälschte Videos zu erstellen.
• Hier ist eine Einführung in Deepfakes – was es ist, wie es funktioniert und wie es erkannt werden kann.

Computer werden immer besser darin, die Realität zu simulieren. Das moderne Kino zum Beispiel verlässt sich stark auf computergenerierte Sets, Kulissen und Charaktere anstelle der einst üblichen praktischen Schauplätze und Requisiten, und meistens sind diese Szenen von der Realität kaum zu unterscheiden. 

In letzter Zeit hat die Deepfake -Technologie Schlagzeilen gemacht. Deepfakes, die neueste Generation von Computerbildern, werden erstellt, wenn künstliche Intelligenz (KI) so programmiert wird, dass sie in aufgezeichneten Videos das Abbild einer Person durch eine andere ersetzt.

Was ist ein Deepfake und wie funktioniert es?

Der Begriff „Deepfake” kommt von der zugrunde liegenden Technologie „Deep Learning”, einer Form von KI. Deep-Learning-Algorithmen, die sich selbst beibringen, wie man Probleme löst, wenn große Datensätze vorhanden sind, werden verwendet, um Gesichter in Videos und digitalen Inhalten zu tauschen, um realistisch aussehende gefälschte Medien zu erstellen. 

Es gibt mehrere Methoden zum Erstellen von Deepfakes, aber die gebräuchlichste beruht auf der Verwendung von Deep Neural Networks mit Autoencodern, die eine Face-Swapping-Technik verwenden. Sie benötigen zunächst ein Zielvideo als Grundlage für den Deepfake und dann eine Sammlung von Videoclips der Person, die Sie in das Ziel einfügen möchten. 

Die Videos können völlig beziehungslos sein; Das Ziel kann beispielsweise ein Clip aus einem Hollywood-Film sein, und die Videos der Person, die Sie in den Film einfügen möchten, können zufällige Clips sein, die von YouTube heruntergeladen wurden. 

Der Autoencoder ist ein tief lernendes KI-Programm, das die Aufgabe hat, die Videoclips zu untersuchen, um zu verstehen, wie die Person aus verschiedenen Blickwinkeln und Umgebungsbedingungen aussieht, und diese Person dann auf die Person im Zielvideo abzubilden, indem gemeinsame Merkmale gefunden werden. 

Eine weitere Art von maschinellem Lernen wird dem Mix hinzugefügt, bekannt als Generative Adversarial Networks (GANs), die alle Fehler im Deepfake innerhalb mehrerer Runden erkennen und verbessern, wodurch es für Deepfake-Detektoren schwieriger wird, sie zu entschlüsseln. 

GANs werden auch als beliebte Methode zur Erstellung von Deepfakes verwendet, die sich auf das Studium großer Datenmengen stützen, um zu „lernen”, wie man neue Beispiele entwickelt, die die Realität mit schmerzhaft genauen Ergebnissen nachahmen. 

Mehrere Apps und Softwares machen das Generieren von Deepfakes selbst für Anfänger einfach, wie die chinesische App Zao, DeepFace Lab, FaceApp (eine Fotobearbeitungs-App mit integrierten KI-Techniken), Face Swap und das inzwischen entfernte DeepNude, ein besonders gefährliches App, die gefälschte Nacktbilder von Frauen generierte. 

Eine große Menge an Deepfake-Software finden Sie auf GitHub, einer Open-Source-Community für Softwareentwicklung. Einige dieser Apps werden zu reinen Unterhaltungszwecken verwendet – weshalb die Erstellung von Deepfakes nicht verboten ist – während andere eher böswillig verwendet werden. 

Viele Experten glauben, dass Deepfakes in Zukunft mit der Weiterentwicklung der Technologie viel raffinierter werden und ernsthaftere Bedrohungen für die Öffentlichkeit in Bezug auf Wahlbeeinflussung, politische Spannungen und zusätzliche kriminelle Aktivitäten darstellen könnten.

Wie werden Deepfakes verwendet?

Während die Fähigkeit, Gesichter automatisch auszutauschen, um glaubwürdige und realistisch aussehende synthetische Videos zu erstellen, einige interessante gutartige Anwendungen hat (z. B. in Kino und Spielen), ist dies offensichtlich eine gefährliche Technologie mit einigen beunruhigenden Anwendungen. Eine der ersten realen Anwendungen für Deepfakes war tatsächlich die Erstellung synthetischer Pornografie.

Im Jahr 2017 erstellte ein Reddit-Benutzer namens „deepfakes” ein Forum für Pornos, in dem Schauspieler mit vertauschten Gesichtern vorkamen. Seit dieser Zeit sind Pornos (insbesondere Rachepornos) immer wieder in die Schlagzeilen geraten und haben den Ruf von Prominenten und Prominenten schwer beschädigt. Laut einem Deeptrace-Bericht machte Pornografie 96 % der Deepfake-Videos aus, die 2019 online gefunden wurden.

Deepfake-Videos wurden auch in der Politik verwendet. Im Jahr 2018 veröffentlichte beispielsweise eine belgische politische Partei ein Video von Donald Trump, der eine Rede hielt, in der Belgien aufgefordert wurde, sich aus dem Pariser Klimaabkommen zurückzuziehen. Trump hat diese Rede jedoch nie gehalten – es war ein Deepfake. Dies war nicht die erste Verwendung eines Deepfakes zur Erstellung irreführender Videos, und technisch versierte Politikexperten machen sich auf eine zukünftige Welle gefälschter Nachrichten gefasst, die überzeugend realistische Deepfakes enthalten.

Natürlich stellen nicht alle Deepfake-Videos eine existenzielle Bedrohung für die Demokratie dar. Es gibt keinen Mangel an Deepfakes, die für Humor und Satire verwendet werden, wie Chips, die Fragen beantworten wie, wie würde Nicolas Cage aussehen, wenn er in „Jäger des verlorenen Schatzes” auftauchen würde ?

Sind Deepfakes nur Videos?

Deepfakes sind nicht nur auf Videos beschränkt. Deepfake-Audio ist ein schnell wachsendes Feld mit einer enormen Anzahl von Anwendungen. 

Realistische Audio-Deepfakes können jetzt mithilfe von Deep-Learning-Algorithmen mit nur wenigen Stunden (oder in einigen Fällen Minuten) Audiodaten der Person erstellt werden, deren Stimme geklont wird, und sobald ein Modell einer Stimme erstellt wurde, kann diese Person erstellt werden etwas zu sagen, wie zum Beispiel, als letztes Jahr gefälschte Audiodaten eines CEO verwendet wurden, um Betrug zu begehen.

Deepfake-Audio hat medizinische Anwendungen in Form von Stimmenersatz sowie im Design von Computerspielen – jetzt können Programmierer es In-Game-Charakteren erlauben, alles in Echtzeit zu sagen, anstatt sich auf eine begrenzte Anzahl von Skripten zu verlassen, die vor dem Spiel aufgezeichnet wurden veröffentlicht. 

So erkennen Sie einen Deepfake

Da Deepfakes immer häufiger werden, wird sich die Gesellschaft insgesamt höchstwahrscheinlich darauf einstellen müssen, Deepfake-Videos auf die gleiche Weise zu erkennen, wie Online-Benutzer jetzt darauf eingestellt sind, andere Arten von gefälschten Nachrichten zu erkennen. 

Oft, wie im Fall der Cybersicherheit, muss mehr Deepfake-Technologie entwickelt werden, um sie zu erkennen und ihre Verbreitung zu verhindern, was wiederum einen Teufelskreis auslösen und möglicherweise mehr Schaden anrichten kann. 

Es gibt eine Handvoll Indikatoren, die Deepfakes verraten:

• Aktuelle Deepfakes haben Probleme, Gesichter realistisch zu animieren, und das Ergebnis sind Videos, in denen das Motiv nie oder viel zu oft oder unnatürlich blinzelt. Nachdem Forscher der University of Albany jedoch eine Studie veröffentlicht hatten, die die blinkende Anomalie entdeckte, wurden neue Deepfakes veröffentlicht, die dieses Problem nicht mehr hatten.
• Suchen Sie nach Haut- oder Haarproblemen oder Gesichtern, die unschärfer erscheinen als die Umgebung, in der sie sich befinden. Der Fokus kann unnatürlich weich aussehen. 
• Wirkt die Beleuchtung unnatürlich? Häufig behalten Deepfake-Algorithmen die Beleuchtung der Clips bei, die als Modelle für das gefälschte Video verwendet wurden, was schlecht mit der Beleuchtung im Zielvideo übereinstimmt. 
• Der Ton scheint möglicherweise nicht mit der Person übereinzustimmen, insbesondere wenn das Video gefälscht, der Originalton jedoch nicht so sorgfältig manipuliert wurde. 

Deepfakes mit Technologie bekämpfen

Während Deepfakes mit der Zeit immer realistischer werden, wenn sich die Techniken verbessern, sind wir nicht völlig schutzlos, wenn es darum geht, sie zu bekämpfen. Eine Reihe von Unternehmen entwickeln Methoden zur Erkennung von Deepfakes, darunter einige Startups. 

Sensity hat zum Beispiel eine Erkennungsplattform entwickelt, die einem Antivirus für Deepfakes ähnelt und Benutzer per E-Mail benachrichtigt, wenn sie etwas ansehen, das verräterische Fingerabdrücke von KI-generierten synthetischen Medien trägt. Sensity verwendet die gleichen Deep-Learning-Prozesse, die zum Erstellen gefälschter Videos verwendet werden.

Operation Minerva verfolgt einen einfacheren Ansatz zur Erkennung von Deepfakes. Der Algorithmus dieses Unternehmens vergleicht potenzielle Deepfakes mit bekannten Videos, die bereits mit einem „digitalen Fingerabdruck” versehen wurden. Beispielsweise kann es Beispiele für Rachepornos erkennen, indem es erkennt, dass das Deepfake-Video einfach eine modifizierte Version eines bestehenden Videos ist, das Operation Minerva bereits katalogisiert hat.

Und letztes Jahr veranstaltete Facebook die Deepfake Detection Challenge, eine offene, kollaborative Initiative, um die Entwicklung neuer Technologien zur Erkennung von Deepfakes und anderen Arten manipulierter Medien zu fördern. Der Wettbewerb umfasste Preise von bis zu 500.000 US-Dollar.