Könnte der gut gemeinte Versuch, Kindesmissbrauch zu bekämpfen, den Weg für beispiellose Überwachung in der Europäischen Union ebnen?
Das ist die Frage, die im Zentrum einer hitzigen Debatte über einen Gesetzesentwurf steht, der während eines Treffens der EU-Minister am 10. Oktober verabschiedet werden könnte.
Das Gesetz würde erfordern, dass Dienste wie WhatsApp, iMessage oder Signal automatisch Nachrichten, die in der EU gesendet werden, auf mögliches Material zum sexuellen Missbrauch von Kindern scannen und verdächtige Inhalte den Behörden melden.
Befürworter sagen, das Gesetz sei dringend erforderlich, um dem Anstieg von Material zum sexuellen Missbrauch von Kindern entgegenzuwirken und die schutzbedürftigsten Mitglieder der Gesellschaft zu schützen.
Opponenten hingegen sagen, dass die Maßnahmen, die sie als “Chat-Kontrolle” bezeichnen, unwirksam, fehleranfällig und möglicherweise die grundlegenden Rechte der EU-Bürger auf Privatsphäre verletzen.
“Natürlich stimmen wir als Gesellschaft der Bedeutung des Kampfes gegen solche Inhalte zu”, sagte Anja Lehmann, Professorin für Kryptographie am Hasso-Plattner-Institut in Potsdam. “Aber es gibt keine zuverlässigen Beweise dafür, dass die vorgeschlagenen Maßnahmen dies effektiv tun würden.”
Lehmann ist eine von 344 Forschern aus 34 Ländern, die als Unterzeichner eines offenen Briefes warnen, dass das neue Gesetz effektiv das Ende der sicheren Ende-zu-Ende-Verschlüsselung bedeuten und den Weg für Massenüberwachung ebnen würde.
“Der Kampf gegen solche Verbrechen scheint einmal mehr als Vorwand für einen Angriff auf die sichere Verschlüsselung von Online-Kommunikationen zu dienen”, sagte Lehmann.
Rechtsexperten teilen die Bedenken der Forscher.
“Dieses Gesetz würde einen erheblichen Eingriff in die grundlegenden Rechte darstellen, das ist unter Rechtsexperten unbestritten”, sagte André Haug, Vizepräsident der deutschen Bundesrechtsanwaltskammer, einer Dachorganisation, die etwa 166.000 Anwälte vertritt.
Das Gesetz ist seit seiner ersten Einführung im Jahr 2022 umstritten. Zwei frühere Entwürfe wurden aufgrund von Datenschutzbedenken von Gegnern blockiert.
Während die neueste Version, die vom ungarischen EU-Vorsitz ausgearbeitet wurde, einige geringfügige Änderungen vornimmt, “löst sie das Kernproblem nicht”, sagte Haug.
Das Gesetz würde weiterhin das Recht auf Schutz der Kommunikation und personenbezogener Daten verletzen, wie in den Artikeln 7 und 8 der EU-Grundrechtecharta festgelegt.
“Dies ist besonders besorgniserregend in sensiblen Bereichen wie der Kommunikation zwischen Anwälten und Mandanten oder Ärzten und Patienten”, fügte Haug hinzu.
Der Vorschlag spezifiziert nicht, wie genau Anbieter wie WhatsApp, iMessage oder Signal verpflichtet wären, Inhalte in ihren Apps zu überprüfen.
Aber Experten sagen, dass die einzige praktikable Methode das sogenannte “Client-seitige Scannen” ist, ein Prozess, bei dem Nachrichten gegen eine anonymisierte Datenbank von Material zum sexuellen Missbrauch von Kindern oder Fällen von “Grooming” – Versuche von potenziellen Raubtieren, emotionale Bindungen zu Minderjährigen für missbräuchliche Zwecke aufzubauen – überprüft werden, bevor sie verschlüsselt werden.
Obwohl die Verordnung behauptet, dass dieser Ansatz die Ende-zu-Ende-Verschlüsselung respektieren würde, tut er dies in der Praxis nicht, argumentierte Kryptografieprofessor Lehmann und bot eine Analogie zu traditionellen Briefen an.
“Der Staat darf die Briefe der Menschen nicht öffnen”, sagte sie, “aber er sieht ihnen effektiv über die Schulter, während sie sie schreiben, um zu sehen, was drin steht.”
Technologieexperten sagen auch, dass die KI-gestützte Scan-Technologie unreif ist und zu einer hohen Rate von falsch-positiven Ergebnissen führen wird.
Sie warnen davor, dass Kriminelle das Scansystem in groß angelegten Angriffen ausnutzen könnten, was die Gerätesicherheit untergraben würde.
Und sie warnen vor dem, was sie “Mission Creep” nennen: Sobald die Technologie implementiert ist, könnte sie erweitert werden, um Inhalte über Material zum sexuellen Missbrauch von Kindern hinaus zu überwachen.
“Wenn wir diese Tür öffnen, schaffen wir eine Infrastruktur, die uns potenziell in einen Überwachungsstaat führen könnte”, sagte Lehmann. Anti-demokratische Regime könnten beispielsweise das Scannen auf der Client-Seite nutzen, um Inhalte zu erkennen, die kritisch gegenüber ihrer Regierung sind.
Es bleibt unklar, ob die EU-Innenminister, die das Gesetz unterstützen, die Mehrheit erhalten werden, um den Gesetzesentwurf am 10. Oktober zu verabschieden.
Wenn sie Erfolg haben, würde der Prozess in geheime Verhandlungen übergehen, in denen das Europäische Parlament, der Europäische Rat und die Europäische Kommission die Einzelheiten der Gesetzgebung finalisieren würden.
Sollten Gegner wie Deutschland genügend Stimmen sammeln, um den Entwurf zu blockieren, würden die Gesetzgeber wahrscheinlich zurückkehren, um einen neuen Vorschlag auszuarbeiten.
In dieser Woche gab die zuvor unentschlossene Niederlande bekannt, dass sie den Entwurf aufgrund von Bedenken hinsichtlich der Grundrechte nicht unterstützen würde.
