Video

zum Video Frag Schreiber – Wie gefährlich sind Deepfakes?

Cyberkriminalität Tastatur

Deepfake-Programme können aus Gesichtern Computermodelle erstellen und ihnen dann buchstäblich Dinge in den Mund legen, die sie nie gesagt haben. Wir fragen den IT-Sicherheitsfachmann Schreiber: Wie mächtig ist die KI dahinter?

Wir sehen einen Film, darin sagt Facebook-Gründer Marc Zuckerberg: "Stellen Sie sich vor: ein Mann mit totaler Kontrolle über gestohlene Daten von Milliarden Menschen. All ihre Geheimnisse, ihr Leben, ihre Zukunft. Enttarnt er sich selbst als Weltherrscher? Ein Skandal? Nein, ein Fake-Video, ein sogenannter "Deepfake". Dahinter steckt künstliche Intelligenz.

Deepfake-Programme können aus Gesichtern Computermodelle erstellen und ihnen dann buchstäblich Dinge in den Mund legen, die sie nie gesagt haben. Wissenschaftler können das sogar schon live in Echtzeit. Den Mächtigsten der Welt können sie so Beleidigungen, Rücktritts oder Kriegserklärungen in den Mund legen. Alles scheint möglich in der Welt der Deep-Fakes. Das Gefahrenpotenzial durch Desinformation ist hoch.

Weitere Informationen

Deepfakes als Waffe gegen Frauen (tagesschau.de)

Ende der weiteren Informationen

 Doch kann jeder zu Hause perfekte Deepfakes erzeugen, um sie dann ins Netz zu stellen? Wir treffen Benedikt Schwimmbeck, er ist IT-Experte beim Computermagazin CHIP: "Das geht erschreckend einfach. Alles, was ich dazu eigentlich brauche, ist ein PC mit einer guten Grafikkarte und kostenlose Software, die überall frei verfügbar ist."

Erschreckend echt

Eine spezielle Software soll für uns jetzt einen Deepfake erstellen und zwar das eines Kollegen. Schwimmbeck sagt: "Hier haben wir das Video. Dann geben wir das Video an die Software und dann bekommen wir die Einzelbilder. Aber die werden dann auch schon zugeschnitten auf den Kopf. Das bedeutet, ich hab dann in diesen Bildern nur Ausschnitte vom Kopf. Das Gleiche mache ich dann noch mit einem zweiten Video von einer anderen Person und das wiederum gebe ich jetzt wieder an die Software und die vergleicht dann diese Bilder miteinander, trainiert die künstliche Intelligenz und weiß dann am Ende ungefähr, wie der eine Typ ausschaut, wenn er beispielsweise redet."

Cyber-Attacke

 Aus dem Gesicht des Kollegen soll das von Österreichs Bundeskanzler Sebastian Kurz werden. Videomaterial gibt es von beiden ja genug. Doch so viel Videomaterial braucht man gar nicht für einen Fake, weiß der IT-Experte: "So ein Video besteht aus 30 oder 60 Bildern pro Sekunde und daraus kann man sich dann die ganzen Einzelbilder ziehen und dann auch einen Deepfake von fast jedem auf der Welt machen, wenn man eben ein paar Videos hat. Wer sein Handy viel nutzt und viel von sich postet, gibt theoretisch auch vielen die Möglichkeit, daraus dann Deepfakes zu machen."

 Und wie echt sieht das Ergebnis unseres Tests aus? Wir lassen erst einmal die KI trainieren. Nach ein paar Stunden das Ergebnis: Unser Fake sieht erschreckend echt aus..

Im Video erklärt der IT-Experte Sebastian Schreiber, wie mächtig die Künstliche Intelligenz hinter „Deepfake ist.