Deep-Fake-Videos: Fast wie falsch

Hat es so nicht gegeben, viele denken aber, es hätte durchaus: Logo!-Deepfake-Film.

Beinahe wären sie damit durchgekommen. Obwohl das Internet kein rechtsfreier Raum ist, lancierten frech ein Video, in dem ZDF-Kindermoderatorin Maral Bazargani augenscheinlich für sogenannte Petzportale wirbt. Angeblich sei das Melden von Nachbarn, Freunden und Familienmitgliedern mit fragwürdigen und ewiggestrigen Ansichten eine sehr coole, aber auch unglaublich wichtige Sache. Die Gesellschaft sei darauf angewiesen, dass sich auch junge und sehr junge Menschen in den Dienst der guten Sache stellen, und Auffälligkeiten aus ihrem Umfeld etwa bei hassmelden.de oder bei den offiziellen Anlaufstellen der Ermittlungsbehörden zur Anzeige bringen.

Raffiniertes Machwerk

Ein übles Machwerk, dessen außerordentliche Raffinesse vor allem darin liegt, das es inhaltlich kaum von einem echten Behördenaufruf zur Denunziation zu unterscheiden ist, wie sie sich überall im Netz finden. Dennoch handelte es sich diesmal um eine perfide Fälschung, wie das ZDF selbst recherchiert hat. Per sogenanntem "Deepfake" wurde echtes Material der gemeinsinnbildenden Logo!-Kindersendung zu einem falschen Video mit Logo!-Moderatorin Maral Bazargani umgeschnitten. Was die Moderatorin in dem Fake-Film "von sich gibt, hat sie so nie gesagt", betont der Sender. Das Video habe es "so nie gegeben".

Nur wie das beweisen? Denn "gefälscht oder nicht? Diese Frage zu beantworten, kann manchmal ganz schön schwierig sein", räumt das ZDF ein. "Wenn sie gut gemacht sind, können Deepfakes täuschend echt aussehen", zumal wenn der Inhalt so nah dran an dem ist, was viele unvorbereitete Bürgerinnen und Bürger, aber vor allem auch Kinder*innen unwillkürlich erwarten. 

Preise für Denunzianten

Dann lassen sich Deepfakes kaum noch von den Originalen unterscheiden kann, denn offenbar stimmt ja alles: Der Aufruf, klimaleugnende Besucher zu melden, ist naheliegend für eine Zielgruppe, deren Alter näher an der "Letzten Generation" liegt als an der letzten Generation, die noch mit der Staatssicherheit Bekanntschaft machen durfte. Und dass ein Gemeinsinnsender Preise den fleißigsten Denunzianten der Woche auslobt, halten zumindest in Sachsen und Thüringen nicht wenige Menschen für einen Plan, der nur noch  nicht umgesetzt wird.

Wenigstens verrät Logo!, wie sich solchen besonders perfekt gefertigten Fälschungen trotzdem auf die Spur kommen lässt. Statt auf die verbalen Botschaften zu lauschen und nachzudenken, ob die nun einfach noch eine Drehung mehr sind oder doch schon eine zu viel, gelte es, darauf zu achten, ob "bei Aufnahmen von Gesichtern zum Beispiel die Augenbrauen genau gleich geformt" seien und "der Leberfleck an der richtigen Stelle" sitze. Typische Fehler seien zum Beispiel auch seltsam geformte Ohren oder Haare, denn "Deepfake"-Videos würden mit Künstlicher Intelligenz und Hightech-Programmen zusammengesetzt, vor denen die Bundesregierung dehalb auch ausdrücklich warne.