DSA darf nicht zulassen, dass uns Filter vor Kriegsverbrechen blind machen

DISCLAIMER: Die hier aufgeführten Ansichten sind Ausdruck der Meinung des Verfassers, nicht die von EURACTIV Media network.

" Der Gesetzentwurf für digitale Dienste muss unsere Rechte schützen, indem er sinnvolle Garantien zur Wahrung der Grundrechte der Internetnutzer:innen enthält. Er muss auch das Verbot allgemeiner Überwachungspflichten beibehalten - egal ob automatisiert oder nicht." [Shutterstock / ImageFlow]

Der Gesetzesentwurf über digitale Dienste (DSA) muss die Grundrechte von Internetnutzer:innen schützen, insbesondere von denjenigen, die Kriegsverbrechen dokumentieren. 

Eva Simon ist Senior Advocacy Officer bei der Civil Liberties Union for Europe (Liberties), einem europäischen Netzwerk unabhängiger Nichtregierungsorganisationen, das sich für den Schutz der Menschenrechte in der Europäischen Union einsetzt. 

Caroline De Cock koordiniert die Coalition for Creativity (C4C). Diese vernetzt Einrichtungen mit einem ähnlichen Standpunkt zum Urheberrecht – darunter Bibliotheken, Wissenschafts- und Forschungseinrichtungen, Organisationen für digitale Rechte, Technologieunternehmen sowie Einrichtungen des Bildungswesens und des kulturellen Erbes. 

Der Einmarsch Russlands in die Ukraine hat erneut Krieg nach Europa gebracht. Mit der Ausweitung der Kämpfe verschärft sich auch die humanitäre Krise, die durch die schockierenden Beweise von Kriegsverbrechen noch verschlimmert wird.

Wir erfahren von diesen Kriegsverbrechen durch Videos, die von Journalist:innen und Einzelpersonen aufgenommen wurden und von denen viele in die sozialen Medien hochgeladen werden. Bürger:innen, Journalist:innen, Menschenrechtsermittler:innen und Anwält:innen dokumentieren, was sie in den Kriegsgebieten sehen.

Die Geräte, die die meisten von uns besitzen, und der freie Zugang zu Plattformen wie YouTube, Twitter oder Meta bedeutet, dass fast jede:r Informationen teilen und Beweise für Kriegsverbrechen sammeln kann. Diese Videos sind wichtig für diejenigen, die nach Wahrheit suchen, sich für Frieden einsetzen oder für Gerechtigkeit sorgen wollen.

António Guterres, der Generalsekretär der Vereinten Nationen, war „zutiefst schockiert“ über die Bilder von zivilen Opfern in der Ukraine, die in den letzten Wochen in den sozialen Medien kursierten. Dies zeigt, welche Rolle Online-Plattformen beim Sammeln und Sichern solcher Beweise spielen. Diese Aufzeichnungen schaffen eine Grundlage für Forderungen nach unabhängigen Untersuchungen und tatsächlichen Konsequenzen.

Gewisse Parallelen können zwischen dem Ukrainekrieg und dem Projekt Syrian Archive gezogen werden. Die Unruhen in Syrien begannen 2011 während des Arabischen Frühlings und weiteten sich zu einem bewaffneten Konflikt aus. Von Anfang an luden die Menschen Videos des Konflikts auf YouTube hoch. Als die Situation zu einem Krieg eskalierte, wurde YouTube intensiver genutzt, und es entstand ein organisches Kriegsarchiv.

Im Jahr 2018 begann Google jedoch, Beiträge aus dem syrischen Archiv zu löschen. Videos von Kriegsverbrechen wurden entfernt, weil automatische Filter, die auf maschinellem Lernen basieren, sie als unangemessene Inhalte kennzeichneten. Infolgedessen gingen Beweise für immer verloren.

Ein Krieg direkt an der Grenze zur EU und die schrecklichen Videos aus Butscha, Mariupol und anderen Gebieten der Ukraine, wo russische Truppen Zivilisten folterten und töteten, erinnern uns daran, was auf dem Spiel steht. Wir müssen aus den Fehlern im Zusammenhang mit dem syrischen Archiv lernen und dafür sorgen, dass solche Videos erhalten bleiben – jetzt und in Zukunft.

Welche Infrastruktur wir für solche Zwecke nutzen, was wir von großen und kleinen Plattformen verlangen, inwieweit sie eine öffentliche Aufgabe bei der Archivierung und Erhaltung solcher Videos erfüllen und wie sie mit unangemessenen Inhalten umgehen sollen – all das sind entscheidende Überlegungen.

Hier kommt der Gesetzentwurf für digitale Dienste (Digital Services Act – DSA) ins Spiel. Er soll Big-Tech-Unternehmen regulieren, um gleiche Wettbewerbsbedingungen zu garantieren. Der Entwurf soll einen sicheren digitalen Raum schaffen, in dem die Grundrechte der Nutzer:innen geschützt sind. Außerdem soll ein Umfeld geschaffen werden, in dem rechtmäßige Inhalte, einschließlich Nutzervideos, die Beweise für Kriegsverbrechen dokumentieren, sicher gespeichert werden können, ohne dass sie verfälscht oder gelöscht werden.

Im Fall des syrischen Archivs wurden die Videos von ungenauen automatisierten Werkzeugen entfernt. Diese haben kein Verständnis für sprachliche oder kulturelle Nuancen und können nicht zwischen journalistischen Quellen und Kriegspropaganda unterscheiden. Diese kontextbezogene Blindheit besteht auch heute noch bei den automatisierten Tools zur Inhaltsmoderation. Daher werden noch immer völlig legitime Inhalte zu Unrecht unzugänglich gemacht.

Aus diesen Fehlern müssen wir lernen und dafür sorgen, dass Journalist:innen, Aktivist:innen oder Zivilist:innen ihre Meinungen und (Video-)Beweise teilen können. Wir müssen die Gefahr reduzieren, dass dieses Material verschwindet, nur weil Online-Plattformen gezwungen werden, schlecht funktionierende Automatisierungswerkzeuge zu implementieren.

Der DSA verlangt von Big-Tech-Unternehmen die Einführung von Risikoanalysen. Diese sollen negative Auswirkungen auf Grundrechte wie das Recht auf Privatsphäre, Meinungsfreiheit, die Rechte von Minderjährigen oder das Diskriminierungsverbot vorhersagen und abmildern. Der DSA sollte den Einsatz von Automatisierung nicht zwingend erforderlich machen.

Ebenso sollten Koregulierungsmaßnahmen wie der Verhaltenskodex für Desinformation unter keinen Umständen Druck auf Online-Plattformen ausüben, Inhalte so schnell zu entfernen, dass dies den verstärkten Einsatz automatisierter Werkzeuge erforderlich machen würde.

Der Gesetzesentwurf sollte unsere Rechte schützen, indem er sinnvolle Garantien zur Wahrung der Grundrechte der Internetnutzer:innen enthält. Dafür muss das Verbot allgemeiner Überwachungspflichten aufrechterhalten werden, egal ob diese automatisiert sind oder nicht. Außerdem sollte der DSA weder direkt noch implizit die Verwendung von obligatorischen Upload-Filtern oder anderen automatischen Inhaltsmoderatoren vorschreiben.

Der DSA muss die Privatsphäre der Nutzer:innen im Internet schützen. Das Verbot der allgemeinen Überwachung durch Online-Plattformen ist dabei ein wesentlicher Bestandteil. Parallel dazu bietet die Möglichkeit, das Internet anonym und über verschlüsselte Dienste zu nutzen, einen entscheidenden Schutz vor Überwachung. Solche Schutzmaßnahmen sind in dem vom Europäischen Parlament vorgeschlagenen Text enthalten, müssen nun aber auch vom Rat übernommen werden.

Der DSA befindet sich in der Endphase der Trilog-Verhandlungen. Wie das Europäische Parlament in seinem Mandat zu Recht anerkennt, ist es von entscheidender Bedeutung, die obligatorische Verwendung von Upload-Filtern zu verbieten. Ein solches Verbot ist der einzige Weg, um unverhältnismäßige Einschränkungen der Informationsbeschaffung, der Meinungsfreiheit und des Schutzes persönlicher Daten zu vermeiden.

Die EU-Gesetzgeber:innen müssen ausreichende Garantien vorsehen, um das Risiko für Grundrechtsverletzungen zu minimieren, das sich aus einer undurchsichtigen automatisierten Entscheidungsfindung ergibt. Es ist wichtig, ein freies Internet zu schützen und eine sichere Plattform für diejenigen zu bieten, die eine unverzichtbare Arbeit bei der Dokumentation von Kriegsverbrechen leisten.

Subscribe to our newsletters

Subscribe