EU-Vorschlag gegen Kindesmissbrauch könnte zu Massenüberwachung führen

Das neue EU-Zentrum für sexuellen Kindesmissbrauch (EUCSA) wird als Vermittler für nationale Behörden und Plattformen fungieren. Seine Aufgabe wird es sein, den Unternehmen Optionen für Aufdeckungstechnologien zur Verfügung zu stellen und Datenbanken mit Indikatoren für sexuellen Kindesmissbrauch zu betreiben, die die Anbieter bei der Erfüllung ihrer Aufdeckungsverpflichtungen beachten müssen. [AdemAY/Shutterstock]

Die Europäische Kommission hat heute (11. Mai) eine allgemeine Scan-Pflicht für Messanger-Dienste vorgeschlagen, um Kinderpornografie zu bekämpfen. Für die Kritiker des Entwurfs öffnet er Tür und Tor zur Massenüberwachung. 

Der Vorschlag zur Bekämpfung der Online-Verbreitung von Material über sexuellen Kindesmissbrauch – kurz CSAM – wird als ein Erfolg für die Verfechter:innen von Kinderrechten gefeiert, stellt allerdings einen Rückschlag für Datenschutzaktivist:innen dar. Auch in Deutschland stößt der Vorschlag auf Ablehnung.

Der Entwurf würde Hosting-Dienste und Kommunikationsdienste – wie WhatsApp oder Telegram – dazu verpflichten, Technologien zur Erkennung von sexuellem Kindesmissbrauch zu betreiben, sofern die zuständige Justizbehörde oder eine unabhängige Verwaltungsbehörde dies verlangt, heißt es in dem Verordnungsentwurf.

Der Text besagt, dass die zu diesem Zweck eingesetzten Technologien „wirksam“, „ausreichend zuverlässig“, „auf dem neuesten Stand der Technik“ und „am wenigsten aufdringlich“ sein sollen, sodass sie „nicht in der Lage sind, andere Informationen aus der betreffenden Kommunikation zu extrahieren als die, die für die Erkennung unbedingt erforderlich sind.“

Die Auflage verlangt von den Technologieplattformen auch die Durchführung von Risikobewertungen und „angemessenen Abhilfemaßnahmen“, die gezielt und verhältnismäßig sind. Sie müssen sowohl der nationalen Koordinierungsbehörde als auch der neu eingerichteten, zweckgebundenen EU-Agentur in Den Haag Bericht erstatten, die „am selben Ort wie ihr engster Partner Europol“ angesiedelt ist, wie der Vorschlag betont.

Auf der Grundlage dieser Berichte werden die Justizbehörden einen Ermittlungsauftrag erlassen. Die Verpflichtungen zur Risikobewertung gelten auch für Softwareanbieter.

Das neue EU-Zentrum für sexuellen Kindesmissbrauch wird als Vermittler für nationale Behörden und Plattformen fungieren. Seine Aufgabe wird es sein, den Unternehmen Optionen für Ermittlungstechnologien zur Verfügung zu stellen und Datenbanken mit Indikatoren für sexuellen Kindesmissbrauch zu betreiben, die die Anbieter bei der Erfüllung ihrer Ermittlungspflichten beachten müssen.

Niederlande als globaler Umschlagplatz für Kinderpornografie

Der Vorschlag der EU-Kommission zur Bekämpfung des sexuellen Kindesmissbrauchs im Internet steht noch aus. Gleichzeitig ist die EU einem neuen Bericht zufolge zu einem „bevorzugten Ziel“ für das Hosting solcher Inhalte geworden.

Kinderschutz an erster Stelle

Die Europäische Kommission stellt den Schutz von Kindern im Internet an erste Stelle. Dies stößt insbesondere bei Datenschutzaktivisten auf Missfallen, die ein willkürliches und unverhältnismäßiges Eindringen in unsere persönliche Kommunikation befürchten.

„Die Kommissarin hat sich einem Dialog mit der Zivilgesellschaft leider verweigert. Nachdem sie sich wiederholt mit Google und Co. getroffen hat, aber die Stimmen von Grundrechtsorganisationen, Digitalrechtsexpertinnen und Wissenschaftlern ignoriert, konnte niemand mehr ein ausgewogenes Gesetzespaket erwarten,“ sagte Konstantin Macher von der NGO Digitalcourage in einer Stellungnahme.

Auch der EDRi („European Digital Rights”) Dachverband, dem neben 40 weiteren zivilgesellschaftlichen Organisationen auch Digitalcourage angehört, hat das Gesetzesvorhaben bereits im Vorfeld scharf kritisiert.

Aber auch von deutscher Seite hagelt es Kritik. Die Ampelkoalitionäre hatten sich bereits im Koalitionsvertrag deutlich gegen das Vorhaben ausgesprochen.

Dementsprechend äußerte sich auch der technologiepolitische Sprecher der FDP, Mario Brandenburg, kritisch gegenüber dem Gesetzesvorschlag.

Mit dem Vorschlag zur Bekämpfung von Kindesmissbrauch öffnet die EU-Kommission die Tür zur digitalen Massenüberwachung. Wir setzen uns weiterhin gegen den Überwachungsstaat und gegen die allgemeine Chatkontrolle ein“, sagte Brandenburg auf Twitter. 

Die Europäische Kommission rechtfertigt den Schritt wiederum damit, dass „keines der Grundrechte [auf Achtung der Privatsphäre, Schutz personenbezogener Daten und Freiheit der Meinungsäußerung und Information] absolut ist,“ heißt es in dem Entwurf. Denn das Kindeswohl hätte hier Vorrang.

Diese Massenüberwachung von Nachrichten wurde durch die Ausnahmeregelung zu der Verordnung über Privatsphäre und elektronische Kommunikation ermöglicht, die im vergangenen Juli verabschiedet wurde.

Diese erlaubt es den Plattformen, solche Kontrollen durchzuführen, solange sie ausschließlich zur Bekämpfung von Material über sexuellen Kindesmissbrauch eingesetzt werden.

Die Ausnahmeregelung ist auf Kritik gestoßen, insbesondere weil es ihr an Garantien und einer Rechtsgrundlage mangelt.

Die Regelung wurde auch kritisiert, weil sie nur als Übergangsmaßnahme gedacht war, bis eine neue Rechtsvorschrift in Kraft tritt oder die Verhandlungen über die Verordnung über Privatsphäre und elektronische Kommunikation abgeschlossen sind.

Für viele Verfechter der Privatsphäre können die technischen Hilfsmittel jedoch nicht die einzige Lösung für ein größeres, soziales Problem sein.

„Es gibt viele Probleme bei der Bekämpfung von Material über Kindesmissbrauch, wie zum Beispiel eine überlastete Polizei und schlechte internationale Zusammenarbeit. Dieser Vorschlag löst diese Probleme nicht, er hilft Kindern nicht und schadet unschuldigen Bürger:innen“, sagte Rejo Zenger, politischer Berater bei der Stiftung Bits of Freedom, Mitglied des Netzwerks European Digital Rights.

Auch der liberale Europaabgeordnete Moritz Körner wies den Vorschlag scharf zurück und nannte ihn nichts weniger als eine „Stasi 2.0“.

„Anstatt diese abscheulichen Verbrechen mit einem unverhältnismäßigen Verzicht auf die Grundrechte aller EU-Bürger:innen zu bekämpfen, wäre es besser, deutlich mehr in die Ausrüstung der Polizei, die europäische Polizeibehörde Europol und in die grenzüberschreitende Zusammenarbeit der zuständigen Behörden zu investieren“, so Körner.

Eine grundlegende Frage, die der Kommissionsvorschlag aufwirft, ist die nach der Zukunft der verschlüsselten Kommunikation. Der Vorschlag enthält keine „Anreize oder Abschreckung“ für den Einsatz jeglicher Technologie, einschließlich der Ende-zu-Ende-Verschlüsselung, solange diese den Anforderungen der Verordnung entsprechen.

Die Ende-zu-Ende-Verschlüsselung sei „ein wichtiges Instrument, um die Sicherheit und Vertraulichkeit der Kommunikation von Nutzer:innen, einschließlich der von Kindern, zu gewährleisten“, heißt es in dem Vorschlag.

Im Vorschlag wird weiterhin betont, dass „die Anbieter alle verfügbaren Schutzmaßnahmen ergreifen sollten, um sicherzustellen, dass die von ihnen eingesetzten Technologien von ihnen oder ihren Mitarbeitern nicht für andere Zwecke als die Aufdeckung von Material über Kindesmissbrauch verwendet werden können“.

KI-Gesetz: Frankreich für Änderungen bei Aufsichtsrat und Marktüberwachung

Ein weiterer Kompromisstext zum KI-Gesetz wurde von der französischen Ratspräsidentschaft im Vorfeld einer Arbeitsgruppensitzung am Dienstag (10. Mai) an die Diplomat:innen des EU-Rates weitergeleitet.

[Bearbeitet von Luca Bertuzzi/Nathalie Weatherald]

Subscribe to our newsletters

Subscribe