Wie die EU unter dem Deckmantel des Kinderschutzes Grundrechte aushebeln will

Chatkontrolle, die

Das erneuerte Vorhaben der EU-Kommission stellt die Vertraulichkeit unserer kompletten digitalen Sphäre infrage. Mit der Brechstange soll der Kampf gegen Kindesmissbrauch vorangetrieben werden – oder wird er selber als emotionale Brechstange missbraucht?

Es war absehbar, dass von der EU-Kommission wieder ein Vorstoß kommt – aber warum dauerte das so lange? Diverse Male wurde der Termin verschoben, an dem EU-Innenkommisarin Ylva Johansson ihre Gesetzesinitiative vorstellen wollte: für einen verpflichtenden Scan unserer elektronischen Kommunikation auf verbotene Inhalte, auch genannt: die Chatkontrolle.

Hatten wir das nicht schon?

Tatsächlich wäre dies schon die "Chatkontrolle 2.0". Denn seit Juli 2021 gilt eine "vorübergehende Ausnahme" von der ePrivacy-Verordnung. Sie erlaubt den großen Konzernen Meta, Alphabet, Microsoft & Co. freiwillige Massenscans von privaten Chatinhalten.

"Freiwillig" meint dabei die Plattformen – denn die Nutzer:innen werden nicht einmal informiert. Ohne einen Anlass oder Verdacht werden unsere Chatnachrichten, Urlaubsfotos, Flirts und Selfies seitdem durchsucht. Findet der Algorithmus verdächtige Nacktheit, wird sie von der Polizei unter die Lupe genommen.

Hier stoßen Welten aufeinander: Kinderschützer:innen erhoffen sich ein wirksames Mittel gegen sexuelle Gewalt, die nach ihrem Verständnis zunimmt, weil die Abbildungen (CSAM) im Internet zunehmen. Bürgerrechtler:innen wehren sich gegen eine neue Überwachungs-Infrastruktur, die mit wenigen Zeilen Code in einen totalitären Alptraum zu verwandeln ist.

Denn wer Missbrauchbilder nach Hashwerten abgleichen kann, könnte das natürlich auch mit anderen Inhalten, die auf bestimmte Weltanschauungen, ethnische Zugehörigkeit, Homosexualität oder eine beliebige dissidentische Gesinnung hinweisen.

Der Protest vieler Bürgerrechts-Organisationen war daher europaweit eindeutig. In einem buchstäblich offenen Brief (hier als aktive Online-Petition) hatte die Giodano-Bruno-Stiftung alle EU-Abgordneten mit stichhaltigen Argumenten auf die Gefahren aufmerksam gemacht. Die meisten davon stimmten dennoch für die "testweise" Aufweichung der ePrivacy – und meinten damit, etwas Gutes zu tun.

Auch Johansson, die resolute schwedische Sozialdemokratin, kämpft überall für das Gute, so möchte sie es jedenfalls verstanden wissen. Würde sie also diesmal die Zeit nutzen und die versprochene Synthese aus Bügerrechten und Kinderschutz präsentieren? An dieser Quadratur des Kreises war zuletzt Apple gescheitert – man kann Kommunikation nun mal nicht vertraulich halten und gleichzeitig auf verdächtige Inhalte prüfen.

Keine Zweifel, keine Verhältnismäßigkeit

Von der Leyen und Johansson sind sich seit Jahren einig: Wir sind die Guten und unsere Wundermaschinen gegen Kindesmissbrauch werden funktionieren. Entsprechend pathetisch eröffnete Johansson ihre Rede unter anderem mit einer starken Nachricht an die Täter: "Wir kriegen euch!" Dabei können schon mal ein paar gewichtige Argumente in Vergessenheit geraten:

  • Die (zumeist männlichen) Täter haben längst Strukturen aufgebaut, die von den jetzt geplanten, radikalen Mitteln nicht einmal berührt sind.
  • Andere Methoden der Strafverfolgung, Infiltration und Prävention haben sich bisher als effektiver erwiesen. Eine Evaluierung der bisherigen Ausnahmeregelungen hat noch nicht einmal stattgefunden.
  • Überforderte Behörden, falsch-positive Verdächtigungen, vorauseilende Selbstzensur, Erpressungspotenzial und Fake-Denunziationen, Kriminalisierung Minderjähriger, Tabuisierung von normalem Sexting, Missbrauch und Leaks gesammelten Materials, Manipulationen usw. werden an der Tagesordnung sein.
  • Die Überwachung ist unvereinbar mit der Europäischen Grundrechtecharta (Artikel 7 und 8: Achtung der Privatsphäre und Kommunikation, Schutz der personenbezogenen Daten) oder dem deutschen Grundgesetz (Artikel 2: freie Entfaltung der Persönlichkeit). Dagegen wird geklagt.
  • Die Anonymität im Internet, der Richtervorbehalt bei Telefonüberwachung, die Unschuldsvermutung, die Integrität informationstechnischer Systeme, das Recht auf Verschlüsselung usw. wären weitere Kollateralschäden.
  • Die meisten Missbrauchsfälle spielen sich weder im Internet noch im Darknet ab, sondern im analogen Umfeld der Kinder. Sie werden meist weder dokumentiert noch wahrgenommen. Es mangelt an Prävention und einfachster Infrastruktur wie Ausstattung von Jugendämtern und Polizei. Diese kostet Geld, und zwar europaweit mehr als die 16 Millionen Euro, die die EU für Prävention aufgelegt hat.
  • Wie sollte es ethisch vertretbar sein, ein so starkes Überwachungsinstrument gegen Kindesmissbrauch in Stellung zu bringen, nicht aber zur Verhinderung von Terroranschlägen, Massenmord oder Amokläufen? Wieviel Kontrolle sollen wir über uns ergehen lassen, um all diese Risiken vermeintlich zu minimieren und welchen Wert hat demgegenüber unsere Freiheit?

Eine Geringschätzung fundamentaler Freiheiten zu Gunsten einer hoch emotialisierten, fehlgeleiteten Fahndungskampagne

Diese und weitere Fragen und Argumente lagen längst vor – und blieben unbeantwortet. Im Entwurf wird die Kritik in anderthalb dürren Sätzen abgehandelt. Mit der federführenden Initiative European Digital Rights (EDRi), die zehn Prinzipien für die anstehende Neuregelung formuliert hat, hat sich die Kommissarin nicht ein einziges Mal getroffen. Kinderschutz-Aktivisten und Software-Lobbyisten (z. T. in Personalunion) geben sich dagegen die Klinke in die Hand. Von Ausgewogenheit oder Verhältnismäßigkeit kann keine Rede sein.

Und so kommt es nun, im Gesetzentwurf, knüppeldick:

  • Verschlüsselung in Messengern, Chats und Videochats würde gebrochen oder umgangen (d. h. auch in WhatsApp, Signal, Telegram etc.). Der Entwurf würde vermutlich auf das Client-Side-Scanning hinauslaufen, also einen geräteseitigen Scan, der der Verschlüsselung zuvorkommt. Verschlüsselung würde kriminalisiert, wäre nicht mehr attraktiv und würde den Anbietern nur Scherereien bringen.
  • Anbieter würden nach bisher vagen Kriterien verpflichtet, die Regelungen umzusetzen. Es ist unklar, welche Anbieter nach der geforderten Risikoanalyse nicht in Frage kommen sollten, da eine Anbahnung von Missbrauch (Grooming) oder ein Datenaustausch auf praktisch allen Plattformen stattfinden kann.
  • Die benötigte Scan-Software oder KI soll die EU kostenlos zur Verfügung stellen. Das würde einer gigantischen zentralisierten Überwachungsmaschine gleichkommen.
  • Falsch-positive Meldungen en masse wären vorprogrammiert. Auch Metadaten würden auf "typische" Verhaltensmuster analysiert werden – was ebenso sehr leicht zu falschen Verdächtigungen führen kann.
  • Netzsperren oder App-Store-Blockaden würden verhängt werden – was wiederum nur für Laien effektiv ist. Profis wissen, wie sie das umgehen können.
  • Eine verpflichtende Altersüberprüfung ist geplant. Diese würde ähnlich einer Ausweis- oder Klarnamenpflicht das Ende jeder anonymen Nutzung bedeuten.
  • Einzig die CSAM-Anzeige soll nicht sofort an die Polizei gehen, sondern freundlicherweise vorher von menschlichen Mitarbeitern einer einzurichtenden EU-Stelle gesichtet werden. Wie diese mit den Abermillionen an Fehlmeldungen umgehen wird, bleibt abzuwarten. Eine Warnung an den/die Absender:in ist natürlich nicht vorgesehen.

Verfeinerte Salamitaktik

Von Bürgerrechten ist also wenig zu lesen. Gefeilt wurde offenbar eher an möglichst vagen Formulierungen, die nicht zu offensichtlich mit der Grundrechtecharta in Konflikt stehen. So enthält der Entwurf keine technischen Festlegungen, sondern beschreibt das gewünschte Ergebnis. Ähnliche Manöver haben Axel Voss und Angela Merkel bei den Uploadfiltern vorgemacht oder Boris Johnson bei der Brexit-Regelung zur inneririschen Grenze. "Uppsi", heißt es dann irgendwann, "nun geht es leider doch nicht ohne Uploadfilter/harte Grenze" usw.

Herausgekommen ist also ein Armutszeugnis an massiver Überwachung, verpackt in hehre Erwartungen und unverbindliche Worte. Doch die Täuschungsdauer unter Fachleuten beträgt null Komma null Sekunden. Die Kommentare, vom Chaos Computer Club bis zur FDP, reichen von ätzend bis vernichtend. Denkt man die Sache zu Ende, kommt man zu der Feststellung: Vergleichbares kennen wir sonst nur aus Hongkong, China oder Russland.

Solide Lobbyarbeit

Bei politischen Projekten geht es oft auch um Lobbyinteressen einzelner Firmen. Heckler & Koch, Pegasus, Tollcollect, Luca App – Politiker:innen agieren oft im Umfeld von Firmen, die Lösungen anbieten. Nicht immer sind es die geeignetsten, aber wer einen Hammer hat, sieht in jedem Problem einen Nagel. Und wofür die EU-Granden von der Leyen, Vestager und Johansson (oder auch Saskia Esken) sich natürlich Zeit nahmen, waren Treffen mit den prominenten Gesichtern des Kampfes gegen Kindesmissbrauchsabbildungen, Ashton Kutcher und seine Frau, Demi Moore.

Man könnte Kutcher für einen Posterboy mit philantropischem Engagement halten – fehlgeleitet, aber eigentlich gut gemeint. Doch der Mann hat sein Engagement mit knallharten Investments in Softwareentwicklung unterfüttert, die jetzt natürlich zum Zuge kommt. So gehört seine Suchfilter-Firma Thorn zu den ersten Gratulanten Johanssons auf Twitter – gern sei man bereit zu helfen.

Es zeigt sich dort ein eigentümlicher Flirt aus Emanzipationsbewegung, Puritanismus und kalifornischer Start-up-Mentalität, den ich nicht bewerten möchte. Die Bürgerrechte jedenfalls sind offensichtlich auf dieser Party nicht willkommen. Felix Reda von der Gesellschaft für Freiheitsrechte stellte dazu den passenden Vergleich auf: Ashton Kutcher sei "Smudo eine Nummer größer" – der prominente Türöffner für eine millionenschwere, aber am Ende dysfunktionale Software.

Was können wir gegen die Chatkontrolle tun? Vor allem, sie thematisieren und mit Politiker:innen darüber sprechen. Der Vorschlag steht noch ganz am Anfang, es ist wichtig, jetzt eine geschlossene Opposition dagegen aufzubauen.

Erstveröffentlichung auf digitalhumanrights.blog.

Unterstützen Sie uns bei Steady!