Die Bekämpfung von Hassrede nach wie vor mit Dilemma konfrontiert

Um das Einhalten der Vorschriften zu gewährleisten, empfiehlt Justita in ihrem Bericht, dass die großen Plattformen ein Rahmenabkommen zur freien Meinungsäußerung unterzeichnen sollten, das vom Büro des UN-Hochkommissariats für Menschenrechte (OHCHR) verwaltet wird. [DilaraD/Shutterstock]

Ein neuer Bericht des dänischen Think Tanks Justitia fordert die Verankerung von Maßnahmen zur Content-Moderation in internationalen Menschenrechtsnormen, um eine einheitliche internationale Herangehensweise zu gewährleisten. Kritiker:innen warnen jedoch, dass dieser freiwillige Ansatz zu schwach ist, um die „Infodemic“ adäquat zu bekämpfen.

In dem Bericht erklärt Justitia, dass die in Deutschland, Dänemark oder Österreich ergriffenen Gesetzesmaßnahmen zur Bekämpfung von Hassreden zu einem „regulatorischen Wettlauf nach unten“ führen und zu dem sogenannten Overblocking führen würden – der Entfernung legitimer und unschädlicher Inhalte.

Stattdessen sollten Unternehmen ihre Praktiken zur Inhaltsmoderation auf den Internationalen Pakt über bürgerliche und politische Rechte stützen, der einen Rahmen für die Einschränkung der Redefreiheit in Fällen von Hassreden oder Fehlinformationen bietet.

„Wenn die großen Plattformen einer freiwilligen Erklärung zustimmen würden, in der ein Menschenrechtsstandard für Desinformation und Hassrede geschaffen wird, würde dies zu einem transparenteren und einheitlicheren Ansatz bei der Moderation von Inhalten beitragen“, sagte Jacob Mchangama, Gründer und Geschäftsführer von Justitia, gegenüber EURACTIV.

Um das Einhalten der Vorschriften zu gewährleisten, empfiehlt Justita in ihrem Bericht, dass die großen Plattformen ein Rahmenabkommen zur freien Meinungsäußerung unterzeichnen sollten, das vom Büro des UN-Hochkommissariats für Menschenrechte (OHCHR) verwaltet wird.

Freiwilliger oder regulatorischer Ansatz?

Dieser menschenrechtliche Ansatz für Content-Moderation würde darin bestehen, dass sich Online-Plattformen freiwillig verpflichten, unter der Schirmherrschaft des OHCHR gegen Desinformation und Hassreden im Internet vorzugehen, sodass die Moderation von Inhalten nach internationalen Standards statt nach nationalen Rechtsvorschriften erfolgt.

Die EU hat sich bereits in der Vergangenheit als globaler Vorreiter positioniert: Ihr Verhaltenskodex zur Bekämpfung von Desinformation und ihr Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet wurden von den meisten großen Plattformen freiwillig übernommen.

Jüngste Leaks der ehemaligen Facebook-Mitarbeiterin Frances Haugen haben jedoch gezeigt, dass die großen Online-Plattformen immer noch Unzulänglichkeiten in ihren Content-Moderationssystemen aufweisen und ihre Versprechen, schädliche Inhalte zu bekämpfen, nicht einhalten.

Serge Abiteboul, Mitglied der ARCEP – einer unabhängigen französischen Behörde, die für die Regulierung der Telekommunikation zuständig ist – erklärte auf einer Veranstaltung des Pariser Friedensforums vergangene Woche, dass dieser freiwillige Ansatz weitgehend gescheitert sei und die Praktiken der Online-Plattformen unter strenger Aufsicht der Regulierungsbehörden stehen müssten.

Der Digital Service Act (DSA), – Europas wichtigstes Gesetz zur Bekämpfung der Verbreitung illegaler Inhalte und zur Stärkung der Verantwortlichkeit digitaler Giganten im digitalen Bereich – versucht, eine strenge Haftungsregelung für Online-Plattformen mit freiwilligen Ansätzen zu kombinieren.

Laut Whistleblowerin Haugen hat das Gesetz das Potenzial, ein „globaler Goldstandard“ für die Moderation von Inhalten zu werden, sagte sie Anfang November vor EU-Gesetzgeber:innen.

Während der vorgeschlagene DSA hohe Geldstrafen für Plattformen vorsieht, wenn diese keine Maßnahmen zur Minimierung der Risiken schädlicher Inhalte ergreifen, arbeitet die EU auch daran, den Verhaltenskodex für Desinformation, der derzeit von der Kommission überprüft wird, in den DSA-Rahmen zu integrieren.

Durch das Unterzeichnen und Einhalten des freiwilligen Verhaltenskodexes garantieren Online-Plattformen, dass sie die hohen Standards für die Content-Moderation erfüllen, die in der DSA dargelegt sind, was auf Seiten der Unternehmen vermehrt Anreize schafft diesen zu übernehmen und entsprechend umzusetzen.

Facebook-Whistleblowerin bittet EU-Parlament, DSA hart anzufassen

Die ehemalige Facebook-Mitarbeiterin Frances Haugen appellierte am Montag (8. November) vor dem Europäischen Parlament an die europäischen Gesetzgeber, einen „goldenen Standard“ zu setzen und hart gegen Big Tech vorzugehen.

Übermäßiges Blockieren von Inhalten

Angesichts der zunehmenden Verbreitung von Online-Desinformation und Hassreden ist die Notwendigkeit der Content-Moderation noch dringlicher geworden.

Eine Studie der EU hat gezeigt, dass Hassreden auf Plattformen, die gewalttätige rechtsextreme Inhalte zulassen, fünf- bis 15-mal häufiger vorkommen, wobei Jüd:innen und People of Colour die häufigsten Opfer von Online-Hassreden sind.

Laut dem Bericht von Justitia stellt jedoch auch das übermäßige Löschen von Inhalten ein Problem dar. Der Studie zufolge verstießen nur 1,1% der gelöschten Online-Inhalte tatsächlich gegen die Bestimmungen des dänischen Strafgesetzbuchs über Hassreden.

Die Internet Commission, eine NGO, die ethische Geschäftspraktiken zur Bekämpfung von Hassreden fördert, sagt, dass die Dynamik der digitalen Industrie einen flexiblen Ansatz erfordert.

„Strenge Durchsetzungsauflagen für Internetunternehmen – gut gemeinte Maßnahmen zur Eindämmung schädlicher Inhalte – können fehlschlagen, was dazu führt, dass Inhalte zu selten gemeldet und zu oft gesperrt werden und neue Arten von Schäden nicht erkannt werden“, erklärte Patrick Grady, Projektleiter der Internet Commission, gegenüber EURACTIV.

„Um eine wirksame Verhaltensänderung zu erreichen und Regulierung zukunftssicher zu machen, ist der Ausgangspunkt die Entwicklung globaler Standards“, sagte er.

[Bearbeitet von Luca Bertuzzi/Zoran Radosavljevic]

Unterstützer

Measure co-financed by the European Union

Diese Publikation spiegelt ausschließlich die Ansichten des Autors wider. Die Verantwortung für den Inhalt dieser Veröffentlichung (Mitteilung) trägt allein der Verfasser. Die Kommission haftet nicht für die weitere Verwendung der darin enthaltenen Angaben.

Subscribe to our newsletters

Subscribe