“Orwellianisch”: EU-Vorstoß zum Massenscannen privater Nachrichten auf WhatsApp und Signal

Die Mitgliedstaaten der EU stimmen über kontroverse Vorschläge zur Chatkontrolle 2 ab, die darauf abzielen, Kommunikation auf Inhalte sexuellen Kindesmissbrauchs zu überprüfen. Die Europäische Union zieht Vorschläge in Betracht, die eine Massenüberwachung privater Nachrichten auf verschlüsselten Messaging-Apps nach solchen Inhalten vorsehen.

Laut dem vorgeschlagenen Gesetz würden Fotos, Videos und URLs, die über populäre Apps wie WhatsApp und Signal verschickt werden, durch einen KI-basierten Algorithmus gescannt, der sie mit einer Regierungsdatenbank bekannter Missbrauchsmaterialien abgleicht.

Der EU-Rat, eines der gesetzgebenden Organe des Blocks, soll am Donnerstag über das Gesetz abstimmen, das gemeinhin als Chatkontrolle 2.0 bekannt ist.

Sollte der Rat, der die Regierungen der 27 Mitgliedstaaten vertritt, zustimmen, gehen die Vorschläge in die nächste Phase der Gesetzgebung und in Verhandlungen über die genauen Bedingungen des Gesetzes über.

EU-Beamte haben argumentiert, dass die Chatkontrolle 2.0 dazu beitragen wird, sexuelle Ausbeutung von Kindern zu verhindern. Verschlüsselte Messaging-Dienste und Datenschützer haben die Vorschläge jedoch vehement abgelehnt und sie mit der Massenüberwachung aus George Orwells “1984” verglichen.

Warum sind die Pläne der EU so umstritten?

Kritiker behaupten, dass Chat Control 2.0 nicht mit Ende-zu-Ende-Verschlüsselung vereinbar sei, welche garantiert, dass Nachrichten nur vom Sender und dem vorgesehenen Empfänger gelesen werden können.

Das vorgeschlagene “Upload-Moderationssystem”, das Nachrichten vor dem Senden scannen würde, wird von Kritikern als eine Art “Hintertür” bezeichnet, die die Kommunikation aller Nutzer potenziellen Hackerangriffen oder dem Zugriff Dritter aussetzen könnte.

“Ob wir es nun eine Hintertür, eine Vordertür oder ‘Upload-Moderation’ nennen, jeder dieser Ansätze erzeugt eine Schwachstelle, die von Hackern und feindlichen Staaten ausgenutzt werden kann, indem sie den Schutz durch unzerbrechliche Mathematik aufheben und durch eine anfällige Stelle ersetzen”, erklärte Meredith Whittaker, Präsidentin von Signal, diese Woche.

Gegner der Vorschläge argumentieren zudem, dass sie privaten Unternehmen, von denen viele in den USA ansässig sind, zu viel Macht über die Überwachung europäischer Bürger einräumen würden.

Sobald eine Hintertür existiert, könnte sie genutzt werden, um nach mehr als nur Inhalten über sexuellen Kindesmissbrauch zu suchen, warnt Matthew Green, ein Experte für angewandte Kryptographie an der Johns Hopkins University.

“Viele denken, die Chatkontrolle ziele auf spezifische Verbrechen ab. Doch es geht um mehr: Es steht eine grundlegende Architekturentscheidung über die Funktionsweise privater Nachrichtensysteme auf dem Spiel. Sollte der Vorschlag Gesetz werden, würden diese Systeme gesetzlich zur Massenüberwachung verpflichtet. Dies könnte für beliebige Zwecke genutzt werden”, erklärte Green in einem Beitrag auf X.

Der EU-Abgeordnete Patrick Breyer von der Piratenpartei Deutschland verglich die Vorschläge mit der Installation staatlicher Spionage-Software auf jedem Gerät in der EU.

“Wir befinden uns am Vorabend eines Überwachungsstaates, der in seiner Extremform einzigartig in der freien Welt ist. Selbst Russland und China haben es nicht geschafft, solche Überwachungsmechanismen in unsere Taschen zu legen, wie es die EU nun vorhat”, äußerte sich Breyer in einer Stellungnahme.

Wer unterstützt das Gesetz?

Vorschläge, private Kommunikation massenhaft nach Material über sexuellen Kindesmissbrauch zu durchsuchen, wurden erstmals 2022 von der schwedischen EU-Kommissarin für Inneres, Ylva Johansson, eingebracht.

Belgien, der aktuelle EU-Ratsvorsitzende, hat einen Kompromissvorschlag für die neueste Gesetzgebungsversion unterbreitet, nachdem invasivere Vorschläge vom Europäischen Parlament zurückgewiesen wurden. In dieser Version würden Scans auf Fotos, Videos und URLs begrenzt, und Nutzer müssten den Scans zustimmen.

Wer nicht zustimmt, würde am Hochladen oder Teilen von Fotos und Videos gehindert. Befürworter argumentieren, dass diese Vorschläge notwendig seien, um die Ausbeutung von Kindern zu bekämpfen, die laut Beamten durch verschlüsselte Plattformen und die Entwicklung von KI-gestützter Bildgenerierungssoftware erleichtert wird. Das US National Center for Missing & Exploited Children berichtete im Jahr 2022, dass 68 Prozent der 32 Millionen gemeldeten Fälle von Kindesmissbrauchsmaterial aus “Chats, Messaging- oder E-Mail-Diensten” innerhalb der EU kamen. Die in Großbritannien ansässige Internet Watch Foundation meldete ähnliche Befunde und identifizierte die EU als Herkunft von zwei Dritteln des Missbrauchsmaterials.

Strafverfolgungsbehörden und Nachrichtendienste äußern oft Bedenken, dass Kriminelle verschlüsselte Messenger-Apps nutzen, um unentdeckt zu bleiben.

Sowohl Telegram als auch Signal wurden von bewaffneten Gruppen verwendet, die von ISIL (ISIS) bis zu den Oath Keepers reichen.

Nachrichtendienste, Militär, Polizei und einige EU-Ministerien würden von den Maßnahmen ausgenommen sein, wie aus durchgesickerten Dokumenten ersichtlich ist, die Contexte, einer französischen Medienorganisation, vorliegen.

Wer ist gegen das Gesetz?

Laut Breyer haben nur Deutschland, Luxemburg, die Niederlande, Österreich und Polen eine deutliche Position gegen die Vorschläge bezogen, während Italien, Finnland, Schweden, Griechenland und Portugal ihre Haltung noch nicht klar dargelegt haben.

In Ländern wie Deutschland, Luxemburg, den Niederlanden und Österreich haben einzelne Abgeordnete Bedenken geäußert, wobei einige argumentieren, dass Überwachungsmaßnahmen nur auf Personen mit einem von einem Richter festgestellten hinreichenden Verdacht abzielen sollten.

Das EU-Parlament hat im November gegen eine “wahllose Chat-Kontrolle” und für eine gezielte Überwachung gestimmt.

Unter den Technologieunternehmen und Gruppen für digitale Rechte, die sich gegen die Vorschläge ausgesprochen haben, befinden sich Mozilla, Signal, Proton, die Electronic Frontier Foundation, European Digital Rights, die Internet Freedom Foundation und der Irish Council for Civil Liberties.

Edward Snowden, der Whistleblower der US-amerikanischen National Security Agency (NSA), hat die Vorschläge als “erschreckende Massenüberwachungsmaßnahme” bezeichnet.

Wie würde Chat Control 2.0 in der Praxis funktionieren?

Auch wenn Chat Control 2.0 Fortschritte macht, behaupten Experten, dass die Durchsetzung der aktuellen Gesetzesversion, die von Belgien befürwortet wird, aufgrund der Ende-zu-Ende-Verschlüsselung sehr schwierig, wenn nicht sogar unmöglich wäre.

In Großbritannien, wo ein ähnliches Online-Sicherheitsgesetz verabschiedet wurde, hat die Regierung eingestanden, dass es derzeit keine Technologie gibt, die verschlüsselte Nachrichten scannen kann, ohne die allgemeine Sicherheit zu beeinträchtigen.

Technologieplattformen wie Signal und WhatsApp, die angedroht hatten, sich aus Großbritannien zurückzuziehen, sehen dies als einen partiellen Sieg an.

Kritiker behaupten, dass das Targeting von Messaging-Apps aufgrund der Existenz privater Netzwerke und des Dark Webs ineffektiv sein wird, um die Verbreitung von Material über Kindesmissbrauch zu verhindern.

KI-gestützte Algorithmen haben sich ebenfalls als fehleranfällig erwiesen, was das Risiko erhöht, dass unschuldige Personen fälschlicherweise den Strafverfolgungsbehörden gemeldet werden.

Die New York Times berichtete 2022, dass ein KI-Tool von Google einen Vater in San Francisco irrtümlich markierte, nachdem dieser ein Foto des Genitals seines Sohnes an einen Arzt gesendet hatte, was zu einer polizeilichen Untersuchung und der Deaktivierung seiner Google-Konten führte.

Bild: artmagination