Bundesaußenministerin Annalena Baerbock verkündet, dass ab dem 1. Januar eine Pfandsteuer eingeführt wird. Das klingt erst mal unglaublich. Aber das Video auf Tiktok ist scheinbar eindeutig. Die vermeintliche Baerbock steht vor den Mikrofonen von Journalisten und sagt diese Sätze, mit ihrer echten Stimme. „Alle Abgabestellen für Pfandflaschen, wie beispielsweise Supermärkte, werden ab dem neuen Jahr verpflichtet, bei allen Personen, welche Pfandflaschen abgeben, die Personalien festzustellen.“ Die Ankündigung wird nun langsam absurd.

Baerbock führt fort: „Beim Kauf eines Getränkes in einer Pfandflasche ist zukünftig darauf zu achten, dass der Kaufbeleg aufgehoben werden muss. Alle Kaufbelege, welche Pfand beinhalten, müssen zwingend in der Jahressteuererklärung aufgeführt werden.“ Spätestens jetzt sollte klar sein, dass diese Ankündigung so irrwitzig ist, dass sie nicht stimmen kann. Und tatsächlich lässt sich relativ einfach erkennen, dass es sich bei dem Video um einen sogenannten Deepfake handelt. Eine mithilfe von Künstlicher Intelligenz geschaffene Fälschung, die sich der Mimik Baerbocks bedient und eine digitale Kopie ihrer Stimme erstellt hat.

Dass es sich bei der Baerbock-Ankündigung um „Satire“ handelt, wird im Video sowie in der Videobeschreibung deutlich. Auch in den Kommentaren weisen viele Nutzerinnen und Nutzer darauf hin, dass das Video fake ist. Dennoch halten einige es offenbar für echt oder zweifeln zumindest daran, ob es echt sein könnte.

Mehrere Deepfakes in einer Woche veröffentlicht

Das Video wurde auf dem Tiktok-Kanal „annalenas.world“ verbreitet. Doch es ist nicht der einzige Deepfake, der in den letzten Tagen über diesen Account veröffentlicht wurde. Insgesamt neun Videos wurden in der letzten Woche dort hochgeladen. Alle zeigen Reden und Statements von Politikerinnen und Politikern zu Themen wie Tempolimit, Fleischkonsum und Frauenquote – alle sind Deepfakes und alle sind als Satire gekennzeichnet. Das am häufigsten angesehene Video ist die vermeintliche Pfandflaschenankündigung von Baerbock mit bisher knapp 180.000 Views.

Oft lassen sich Deepfakes spätestens auf den zweiten Blick als Fälschung entlarven. Auch im Fall Baerbocks. Wer genau hinsieht, bemerkt, dass die Lippenbewegung nicht zu der Tonspur passt. Auch die Mimik wirkt zum Teil holprig. Doch die Technik wird immer besser – und sie wird immer einfacher zu bedienen. Mit einem relativ preisgünstigen Abonnement eines Audio-Deep-Fake-Dienstes lässt sich einfach eine digitale Kopie einer Stimme erstellen. Alles, was es dazu braucht, sind wenige Minuten Audiomaterial der Originalstimme. Das Portal Klicksafe hat deswegen Tipps aufgelistet, wie sich Deepfakes besser entlarven lassen können.

„Desinformation verpackt als Satire“

Bei Deepfakes, die vermeintliche Äußerungen von Politikerinnen und Politikern zeigen, ist der Grad zwischen Satire und Desinformation oftmals schmal. „Solche Deepfakes sind ein zweischneidiges Schwert“, sagt Murat Karaboga, IT-Experte vom Fraunhofer-Institut für System- und Innovationsforschung (ISI). „Aus einer Perspektive, die ernsthaftes Interesse an einer inhaltlichen politischen Debatte hat, sind sie allerdings durchaus kritikwürdig“, erklärt Karaboga auf RND-Anfrage.

Im Falle des Baerbock-Videos sei es zwar „absolut begrüßenswert, dass hier Satire auch als solche gekennzeichnet wurde“, dennoch seien Deepfakes in der Lage, „breite Massen zu täuschen“.

Bei der Bewertung, ob es sich nur um Satire oder schon um Desinformation handelt, sei vor allem der Kontext relevant, betont Karaboga. Die Bundesregierung stehe aktuell in der Kritik, mittels Bürgergeld zu viel Geld an die bedürftigen Teile der Bevölkerung zu verteilen und zu wenige Anreize zu schaffen, Menschen zur Erwerbsarbeit zu bewegen, erklärt Karaboga.

Im Baerbock-Video werde nun dieser bedürftige Teil der Gesellschaft gegen die Bundesregierung ausgespielt. „Es soll der Eindruck bleiben, dass die Regierung jetzt den einfachen Bürgerinnen und Bürgern sogar noch das Pfandflaschengeld aus der Tasche zieht“, erklärt der IT-Experte. Das zeigen auch die Kommentare unter dem Video. Dort heißt es beispielsweise: „Könnte echt eine Idee von denen sein.“ Oder: „Könnte ich denen noch zutrauen.“

Karabogas Fazit lautet daher: „Angesichts dessen, dass dadurch die tatsächliche politische Diskussion verfälscht dargestellt wird, handelt es sich also um Desinformation verpackt als Satire.“

Auf eine RND-Anfrage an das Bundesamt für Sicherheit in der Informationstechnik (BSI), wie mit solchen Fällen umgegangen werde, antwortete die Behörde allgemein: „Im konkreten Fall sind sowohl der Account als auch die Videos erkennbar als Satire gekennzeichnet. Das reine Audiomaterial hingegen ist deutlich schwerer als Fake im Rahmen einer Satire zu identifizieren. Hier gilt für Hörerinnen und Hörer, dass stets die Quelle einer Audiodatei hinterfragt werden sollte.“

Baerbock und die Grünen im Fokus von Fakes

Auffällig ist, dass vor allem Grünen-Politikerinnen und -Politiker ins Visier dieser fragwürdigen Art von Satire geraten. Und vor allem immer wieder Baerbock.

Im August sorgte ein Fake-Account im Namen der Außen­ministerin für Aufsehen, nachdem ihre Pazifik­reise wegen eines defekten Regierungs­flugzeugs hatte abgebrochen werden müssen. Der vermeintliche Baerbock-Account – der sogar das Wort Parodie im Namen trug – schrieb: „Diese Reise hat erneut die Notwendigkeit einer feministischen Außen­politik offengelegt: Denn das Flugzeug wurde von Männern gebaut und gewartet. (…) Das wäre keiner Frau passiert.“ Dass dies kein echter Tweet der echten Außen­ministerin sein dürfte, war leicht erkennbar. Dennoch fielen zahlreiche Nutzerinnen und Nutzer auf die „Parodie“ rein – wohl auch, weil sie glauben wollten, dass die Feministin Baerbock wirklich so tickt.

Bereits vor der letzten Bundestagswahl, als Baerbock als Kanzlerkandidatin der Grünen feststand, kursierten Fakes über die Politikerin. So wurde etwa in sexistischer Weise behauptet, sie habe sich vor ihrer Karriere als Politikerin für Nacktbilder entblößt. Dazu wurde eine vermeintliche Aufnahme verbreitet sowie der Kommentar: „Ich war jung und brauchte das Geld.“ Ein Faktencheck ergab, dass Bilder eines russischen Nacktmodels so manipuliert wurden, dass der Anschein erweckt wurde, es handle sich um Baerbock.

„Baerbock wird als gefundenes Fressen betrachtet, weil in den Nachrichtenmedien, die von Anhängern rechtsextremer und rechtspopulistischer Kreise konsumiert werden, häufig auf inhaltliche oder sprachliche Fehler, die sie macht, fokussiert wird“, analysiert Karaboga. „Dadurch soll der Eindruck einer unfähigen Politikerin entstehen, die dermaßen viele Macken hat, dass jeder noch so böse Witz über sie gerechtfertigt werden kann.“ Aktuell sei das Baerbock, „zuvor war es über viele Jahre Claudia Roth, die im Fokus solcher Kampagnen stand“.

Laut BSI können Deepfakes zur Verunsicherung der Bevölkerung beitragen, „wenn sie beispielsweise politische Mandatsträger oder auch Medien betreffen und so deren Glaubwürdigkeit beschädigen“, hieß es auf Anfrage von der Behörde. „Umso wichtiger ist es, die Bürgerinnen und Bürger dahingehend zu sensibilisieren, entsprechende Clips immer kritisch zu hinterfragen.“