Sogenannte Deepfakes, täuschend echt wirkende Bilder, Videos und Tonaufnahmen, sollen verboten werden. Das wird jetzt in einer eindringlich formulierten Online-Petition gefordert.

"Deepfakes werden bleiben". Wie eine Kapitulation wirkt er, der letzte Satz in einem Gutachten des Wissenschaftlichen Dienstes des Bundestages aus dem vergangenen Sommer.

Die Juristen analysieren, welche rechtlichen Möglichkeiten es gibt, sich gegen oftmals missbräuchliche Anwendungen von Deepfakes zu wenden. Deepfakes sind täuschend echt wirkende Video-, Bild- und Tonaufnahmen menschlicher Gesichter, ihrer Körper oder Stimmen. Fälschungen, die durch Anwendung von Künstlicher Intelligenz immer bedrohlicher werden. So bedrohlich, dass sich eine Gruppe von Prominenten dem nicht mehr achselzuckend und kapitulierend fügen wollen.

In einer von mittlerweile fast 320.000 Menschen unterzeichneten Online-Petition wird jetzt gefordert: "Verbietet das Fälschen von Menschen! Rettet die Demokratie vor Deepfakes und manipulativen Bots!" Eindringlich heißt es in der Petition, die sich an die derzeitigen Koalitionsverhandler in Berlin richtet: "Es rollt ein Tsunami aus Fälschungen auf uns zu, der es immer schwerer macht, zwischen Wahrheit und Lüge zu unterscheiden. Dadurch gefährden Deepfakes und Bots unsere Demokratie, denn Demokratie braucht Vertrauen, und Vertrauen braucht Wahrhaftigkeit."

Prozesserfolg des Mediziners Eckart von Hirschhausen

Der Autor, Mediziner und Wissenschaftsjournalist Eckart von Hirschhausen ist einer der Erstunterzeichner der von dem Bestsellerautor Marc Uwe Kling gestarteten Petition. Hirschhausens Fall macht deutlich, wie einschneidend Deepfakes wirken. Und dass sie eben nicht nur für diejenigen ein Problem sind, die direkt darunter zu leiden haben, sondern dass sie unsere Gesellschaft insgesamt betreffen.

Im Internet kursierten Videos, in denen der Mediziner, so schien es, für Diätmittel wirbt. Oder Potenzmittel. Mit haltlosen Versprechen. Allesamt waren es mit Hilfe Künstlicher Intelligenz hergestellte Fälschungen.

In einem Interview mit Zeit Online sagte von Hirschhausen: "Das Perfide ist: Die Videos werden immer realistischer. Mittlerweile passen die Mundbewegungen sogar zu dem, was die gefälschte Stimme sagt. In einem Video sitze ich bei Maischberger und halte plötzlich eine hineinmontierte Schachtel in der Hand. Und dann sagt meine Stimme schmierige Verkäufer-Sätze wie: 'Bestellen Sie jetzt! Wenn Sie gleich drei Packungen kaufen, kriegen Sie Rabatt!' Es fühlt sich wie ein Diebstahl meiner Persönlichkeit an."

Dass dies nicht nur ein Problem für ihn und seinen Ruf ist, begründet von Hirschhausen so: "Unsere Demokratie beruht auf Vertrauen. Wenn man einen Ausschnitt aus der Tagesschau sieht, muss man sich darauf verlassen können, dass dieser Mensch das auch wirklich gesagt hat. Sonst verstärkt sich das Gefühl, das viele ohnehin schon haben, dass sie nichts mehr glauben können, dass sie von 'denen da oben' manipuliert werden."

In einem Rechtsstreit gegen Meta, dem hinter Facebook und Instagram stehenden Konzern, auf dessen Plattformen solche Videos verbreitet werden, hat Hirschhausen jetzt einen Erfolg errungen. Das Oberlandesgericht Frankfurt entschied, dass Facebook nicht nur ein von Hirschhausen beanstandetes Video löschen muss. Sondern dass die Löschungspflicht auch für ähnliche, inhaltsgleiche Videos gelten muss. So vielversprechend die Entscheidung ist, so zeigt sie doch auch den Haken an der Sache: Jeder Kläger muss sich einzeln und immer wieder zur Wehr setzen. Im Zeit-Online-Interview sagt es von Hirschhausen so: "Das Ganze fühlt sich ein bisschen an wie bei einer Hydra, der man einen Kopf abschlägt, und es wachsen zwei neue nach. Es bleibt weiterhin mein Privatvergnügen, eine Agentur zu bezahlen, die solche Videos aufspürt, und einen Anwalt, um dagegen vorzugehen."

Warum ein Richterspruch allein nicht weiter hilft

Auch die Täter zu identifizieren und sie gegebenenfalls in Haftung zu nehmen, ist ein aufwändiges Unterfangen. Theoretisch ist all dies möglich. Welche rechtlichen Schwerter es da gibt, hat der Wissenschaftliche Dienst des Bundestages in dem erwähnten Gutachten ausführlich dargestellt. Das reicht von Strafverfolgung wegen Beleidigung, Verleumdung, Urheberrechtsverletzung bis zu Schadensersatz- und Unterlassungsansprüchen. Doch bei der kaum überschaubaren Menge von Grenzüberschreitungen, die die Betroffenen gar nicht alle wahrnehmen geschweige denn verfolgen können, hilft dies rein faktisch kaum weiter.

Umso wichtiger erscheint das weitergehende Anliegen der genannten Online-Petition für ein Verbot des Erstellens von Deepfakes echter Menschen ohne deren Einwilligung. Alle Anbieter von Deepfake-Tools, so die Forderung, müssten ihre Produkte dementsprechend einschränken. Auch das vorsätzliche Verbreiten nicht erlaubter Deepfakes (inklusive Sharen) müsse strafrechtliche Konsequenzen haben.

Manipulative Social-Bots, die sich als echte Menschen ausgeben, müssten generell verboten werden, so die Forderung. "Tun wir das nicht, dann werden unsere Debatten bald in einer Flut von KI-generierten Beiträgen aus Trollfabriken ertrinken." Dies sei keinesfalls ein Eingriff in die Redefreiheit, weil Bots ja gar keine Rechte haben und sich daher auch nicht auf die Redefreiheit berufen könnten.

Und dann wird in der Petition noch der kürzlich verstorbene amerikanische Philosoph Daniel Dennett mit einem eindrucksvollen Vergleich zitiert: "Geld existiert seit mehreren tausend Jahren, und von Anfang an wurde das Fälschen als ein sehr ernstes Verbrechen angesehen, das in vielen Fällen mit der Todesstrafe geahndet wurde, da es das Vertrauen untergräbt, auf dem die Gesellschaft basiert. Heute, zum ersten Mal in der Geschichte, ist es dank Künstlicher Intelligenz möglich, gefälschte Menschen zu erschaffen, die in vielen der neuen digitalen Umgebungen, die wir geschaffen haben, als echt durchgehen können. Diese gefälschten Menschen sind die gefährlichsten Artefakte in der Geschichte der Menschheit. Sie könnten nicht nur Ökonomien, sondern auch die menschliche Freiheit selbst zerstören. Bevor es zu spät ist, müssen wir sowohl die Erschaffung von gefälschten Menschen als auch deren Weitergabe verbieten. Die Strafen für beide Vergehen sollten äußerst hart sein, da die Zivilisation selbst auf dem Spiel steht."

Ein Landsmann von Dennett sieht das wohl anders. US-Vizepräsident J.D. Vance hatte im Februar in seiner Rede vor der Münchner Sicherheitskonferenz bekanntlich gesagt, er sehe die Meinungsfreiheit in Europa in Gefahr. Eckart von Hirschhausen hält in seinem Interview dagegen: "Das Internet ist mit dem Versprechen gestartet, Wissen zu demokratisieren. Aber genau das Gegenteil passiert. Plattformen monopolisieren das Internet und entscheiden, was die Menschen zu sehen bekommen. Zu oft sind es Fälschungen."

Ganze Gesellschaften können irregeleitet werden

Und je perfekter diese werden, umso unabsehbarer die Konsequenzen. Für einzelne Betroffene ohnehin, wenn etwa die Gesichter prominenter oder auch nicht prominenter Frauen von der KI in einen Pornofilm montiert werden und dieser veröffentlicht oder etwa zu Erpressungszwecken verwendet wird. Auch ganze Gesellschaften können irregeleitet werden. Jüngst kursierte ein Video im Netz, das angeblich (und fälschlich) den ukrainischen Präsident Wolodymyr Selenskyj zeigte, wie er sein Volk und seine Armee dazu aufrief, die Waffen niederzulegen und sich der russischen Invasionsarmee zu ergeben. Solche Fake News müssen erst einmal wieder eingefangen werden, bevor sie Tatsachen schaffen. So können Deepfakes und die darin transportierten Unwahrheiten und Desinformationen auch als modernes Mittel der Kriegsführung eingesetzt werden.

Das Problem wird mittlerweile auch in der Politik wahrgenommen.

Die bayerische Landtagspräsidentin Ilse Aigner besuchte kürzlich das Startup "Neuraforge", das eine Software-basierte Lösung zur Erkennung von Deepfakes und KI-generierten Bildern und Videos liefert. Die Firmengründer Anika Gruner und Anatol Maier verblüfften die CSU-Politikerin mit einem gefälschten Foto, das diese mit einem Bierglas in der Hand und in tierischer Begleitung zeigte. Die Süddeutsche Zeitung zitierte Aigner danach so: "Deepfake-Erkennung ist zentral für unsere Demokratie. Deshalb sollten wir uns dringend politisch mit der Kennzeichnungspflicht von KI-generierten Inhalten befassen."

Eine Kennzeichungspflicht reicht allerdings nicht aus, um dem Problem beizukommen. Das sehen nicht nur die Unterzeichner der Petition so, sondern auch der renommierte Medienrechtsanwalt Christian Schertz. Er sagte in der ARD-Sendung "titel thesen temperamente": "Wir brauchen eine Norm, wonach bereits die Herstellung, nicht erst die Verbreitung von Deepfakes unter Strafe gestellt wird." Die Plattformen, die die Verbreitung ermöglichen, müssten gesetzlich dazu verpflichtet werden, dass das nicht nur gelöscht wird, sondern auch durch Filter dafür gesorgt werde, dass das nicht wieder hochgeladen werden kann.

Aber würde selbst ein Verbot von Deepfakes das Problem lösen? Anatol Maier, Mit-Gründer von Neuraforge, sagte dazu auf Nachfrage des hpd: "Wenn es nach uns ginge, würden wir in einer Welt leben, in der es unsere Technologie nicht bräuchte. Selbst wenn aber Deepfakes verboten sind, werden wir kriminelle Anwender dieser Technologie haben. Mit einem Verbot könnten wir aber unsere Software gezielt einsetzen, um Deepfakes und KI-manipuliertes Material zu finden und aus dem Verkehr zu ziehen."