Die Videoanrufe von angeblichen Bürgermeister*innen stellten nicht nur Politiker*innen bloß, sondern sind eine Warnung an uns alle.
Seit wir auf unserem Blog im Oktober 2020 über den Einsatz von Deepfake-Videos geschrieben habe, hat sich die Situation zugespitzt. Vor kurzem erhielten mehrere europäische Bürgermeister*innen Videoanrufe von Vitali Klitschko, dem Bürgermeister von Kiew. Diese Anrufe entpuppten sich als Imitationen, die von Betrügern erstellt wurden. Die Bürgermeisterin von Berlin, Franziska Giffey, war eine dieser Video-Gesprächspartner*innen. Sie erklärte gegenüber den Medien, dass die Person in diesen Videocalls wie Klitschko aussah und sich auch so anhörte. "Selbst Profis können nicht unterscheiden, ob sie mit einer echten Person sprechen oder mit einem Fake", sagte Giffey. Ihr seien bei der Videoschalte erst wegen der Fragen des Unbekannten Zweifel gekommen.
Als die Berliner Behörden bei der ukrainischen Botschaft nachfragten, wurde ihnen mitgeteilt, dass Klitschko sie nicht angerufen hatte. Inzwischen hatten verschiedene Medien gefälschte Anrufe bei anderen Bürgermeister*innen in ganz Europa entdeckt. Auch der Bürgermeister von Wien war betroffen.
Waren diese Anrufe Deepfakes?
Das lässt sich nicht mit Sicherheit sagen. Die Tagesschau recherchierte, dass die Bilder lediglich kopiert und nicht am Computer simuliert worden seien. Aber unabhängig davon, welche Techniken verwendet wurden, werden die Fälschungen immer besser und bösartiger. Auch Politik und Behörden sind davor nicht gefeit.
Das Motiv für die Klitschko-Fakes ist unklar. Aber die Betrüger*innen haben es geschafft, zahlreiche europäische Bürgermeister*innen öffentlich bloßzustellen und deren digitale Kompetenzen infrage zu stellen.
In unserem Blogbeitrag aus dem Jahr 2020 nennen wir weitere potenzielle Gründe genannt, z. B. kriminelle Absichten oder Rache, aber keines dieser Szenarien scheint zu passen. Ende 2021 katalogisierte Shelly Palmer die verschiedenen Algorithmen, die für die Erstellung dieser Videos verwendet werden können, und diese Liste ergänzt noch weitere hinzu.
In einem Blogbeitrag über die Ethik der "synthetischen Medien" (so nennen die Autoren der Deepfake-Algorithmen ihr Arbeitsprodukt), wurde die Welt der Deepfakes mit der Einführung der Kodak-Kamera vor 130 Jahren verglichen. Damals machte man sich Sorgen über Bildmanipulationen durch Fotoneulinge und darüber, ob wir Fotos verwenden könnten, um etwas anderes als den buchstäblichen, "echten" Zustand der Welt zu zeigen. Die Weltuntergangsszenarien sind damals nicht eingetreten, und wie ihr, laufen wir heute alle mit Digitalkameras herum, die mit mehreren Objektiven und eingebauten Effektfiltern ausgestattet sind, die früher nur in der gehobenen Profiausrüstung zu finden waren.
Die sozialen Medien mit den eingebauten Filtern verstärken den Trend. Was früher Tage oder Wochen brauchte, um eine virale Wirkung zu erzielen, wird heute innerhalb von Stunden oder sogar Minuten weltweit verbreitet. Leider haben die sozialen Plattformen nicht wirklich eine Vorreiterrolle eingenommen, was die Eindämmung von Fakes betrifft.
Unser CTO Michal Pechoucek sagt dazu:
“Ich glaube, dass in Zukunft Deepfakes dadurch verhindert werden können, indem Videos und andere Inhalte im Internet verifiziert und zertifiziert werden. Das kann funktionieren, wenn wir in Zukunft alle digitale Wallets haben werden, in denen Daten gespeichert sind, die unsere Identität verifizieren.
Das Hochladen von Videoinhalten, die Menschen und Gesichter zeigen, ist dann nur dann vertrauenswürdig, wenn sie verifiziert sind. In einer idealen Welt werden Plattformen wie YouTube, Instagram und TikTok die Verifizierung von Bildern und Videos erlauben oder sogar verlangen, sodass Fälschungen der Vergangenheit angehören werden. Das Gleiche gilt für Apps für Videoanrufe wie z.B. Microsoft Teams und Zoom, die Mittel zur Verifizierung von Personen in Live-Anrufen bieten sollten.
Es gibt zwar Hinweise darauf, dass das Klitschko-Video möglicherweise gar kein Deepfake war, aber die Tatsache, dass Spitzenpolitiker eine halbe Stunde lang mit einem gefälschten Video hereingelegt wurden, zeigt, dass Deepfake-Videogespräche tatsächlich “erfolgreich” sein könnten. Dieses prominente Beispiel ist erschreckend, könnte aber auch einen erzieherischen Effekt für viele haben, mit Videoinhalten vorsichtig umzugehen, denn auch wenn sie “echt” zu sein scheinen, können sie manipuliert sein.”
Die Videoanrufe zwischen den Bürgermeister*innen sind eine Warnung an uns alle, nichts ungeprüft zu akzeptieren, insbesondere wenn es sich um bekannte (oder halbwegs bekannte) Personen handelt. Mehr Infos zu Deepfakes findet ihr hier.
Interessiert an mehr News von uns? Folgt uns auf Facebook und auf Twitter!
