Ein kürzlich erschienener Artikel von Balkan Insight enthüllte enge Verbindungen, einschließlich möglicher finanzieller Interessen, zwischen der Europäischen Kommission und Kinderschutzorganisationen im Zusammenhang mit einem Entwurf für ein EU-Gesetz zur Verhinderung von Online-Material über sexuellen Kindesmissbrauch.
Die Verbindungen gehen dem Artikel zufolge über die üblichen Konsultationen mit Interessenvertretern hinaus, da mindestens ein Kommissionsvertreter im Vorstand einer der Kinderschutzorganisationen sitzt. Dies veranlasste den Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) des Europäischen Parlaments, seine Bedenken in einem offiziellen Schreiben an die Kommission zu äußern.
Die vorgeschlagene Verordnung zielt darauf ab, Material über sexuellen Missbrauch von Kindern im Internet (CSAM) zu verhindern und zu bekämpfen, indem digitale Plattformen in der EU dazu verpflichtet werden, solches Material zu erkennen und zu melden.
Die für Inneres zuständige Kommissarin Ylva Johansson hatte den Vorschlag im vergangenen Jahr im LIBE-Ausschuss vorgestellt und damit geteilte Reaktionen hervorgerufen. So äußerten Digitalverbände Bedenken, dass das Scannen solchen Materials zum Aufbrechen von Verschlüsselungen und zur Verletzung der Privatsphäre führen würde. Kinderschutzorganisationen hingegen betonten, dass dies ein entscheidender Schritt zur Verhinderung von Missbrauch sei.
Profit
Daten von Kinderschutzorganisationen haben eine besorgniserregende Zahl von CSAM in der EU aufgezeigt. Eine dieser NGOs ist Thorn, die vom US-Schauspieler Ashton Kutcher mitbegründet wurde und über eine eigene Software zur Erkennung von CSAM verfügt.
The Balkan Insight zitiert die ehemalige Leiterin der ältesten europäischen Hotline für die Meldung von Online-CSAM, Arda Gerkens, die sagte, dass „Gruppen wie Thorn alles in ihrer Macht Stehende tun, um dieses Gesetz voranzutreiben, nicht nur, weil sie glauben, dass dies der richtige Weg ist, um den sexuellen Missbrauch von Kindern zu bekämpfen, sondern auch, weil sie ein kommerzielles Interesse daran haben.“
Der Artikel beschreibt, wie Thorn seine Tools für künstliche Intelligenz gewinnbringend verkauft: Das US-Ministerium für Heimatschutz hat seit 2018 Lizenzen für 4,3 Millionen Dollar erworben. Auch andere Unternehmen, wie Vimeo, Flickr oder OpenAI, nutzen sie.
Emily Slifer, Director of Policy bei Thorn, bestätigte gegenüber Euractiv, dass „Thorn ein Produkt hat, das wir an die Industrie verkaufen. Es ist ein sehr kleiner Teil unseres Umsatzes.“ Sie betonte jedoch, dass „Einnahmen nicht gleichbedeutend mit Gewinn sind.“
„Der größte Teil unserer Finanzierung stammt von Spendern, seien es Einzelpersonen, Stiftungen, Zuschüsse usw.“
Slifer sagte, dass sie das Produkt entwickelt haben, weil solche Lösungen bisher nicht für kleine und mittlere Unternehmen verfügbar waren. „Wir sind die Einzigen, die das tun.“
Der Grund für ihr Interesse an der EU-Verordnung sei auch, dass sie dem künftigen EU-Zentrum, einem zentralen Knotenpunkt für Fachwissen zur Bekämpfung von CSAM, mit solchen Technologien helfen könnten.
„Wir haben kein kommerzielles Interesse. Der einzige Grund, warum Thorn hier ist, ist eine gute Verordnung, die unsere Mission, Kinder vor sexuellem Missbrauch im Internet zu schützen, erweitert“, erklärte sie.
Die Kommission und die NGOs
Nach Angaben von Balkan Insight standen Thorn und sein Mitbegründer Ashton Kutcher bezüglich der Verordnung in Kontakt mit der Kommission, insbesondere mit Johanssons Büro, aber auch mit anderen.
So nahmen Kommissionspräsidentin Ursula Von der Leyen und Kutcher 2020 an einer Videokonferenz mit der WeProtect Global Alliance teil – einer weiteren Kinderschutzorganisation.
Wie Balkan Insight schrieb, zeigte der E-Mail-Austausch zwischen Johansson und der Geschäftsführerin von Thorn, Julie Cordua, „eine kontinuierliche und enge Arbeitsbeziehung zwischen den beiden Seiten in den Monaten nach der Veröffentlichung des CSAM-Vorschlags, wobei die Kommission Thorn wiederholt den Zugang zu wichtigen Entscheidungsveranstaltungen erleichterte, an denen Minister und Vertreter der EU-Mitgliedstaaten teilnahmen.“
„Natürlich haben wir mit der Kommission gesprochen, ich will nicht behaupten, dass wir das nicht getan haben, aber wir haben nicht ausführlich mit ihr gesprochen. Wir haben in keiner Weise an der Ausarbeitung dieser Verordnung mitgewirkt“, sagte Slifer und bestätigte, dass Johansson auch mit Cordua und Kutcher zusammengetroffen sei.
„Wir haben uns erst gegen Ende der Übergangszeit in diese Debatte eingeschaltet“, sagte Slifer und bezog sich dabei auf die bis zum 3. August 2024 geltende Übergangsverordnung, die den freiwilligen Nachweis von CSAM vorsieht.
„Wir haben den Regulierungsbehörden immer unsere Unterstützung angeboten, nicht nur innerhalb der EU, sondern länderübergreifend […], weil wir wissen, dass die Unternehmen nicht immer erklären werden […], wie diese Produkte und Systeme funktionieren“, erklärte sie. Slifer fügte hinzu, dass sie sich immer an die Regeln gehalten haben und auch im Transparenzregister eingetragen sind.
Thorn unterhält auch Beziehungen zur WeProtect Global Alliance, zu der es im Jahr 2021 219.000 Euro beisteuerte, wie Balkan Insight berichtete. Zum Vorstand von WeProtect gehören auch Cordua, die von Slifer bestätigt wurde, und Antonio Labrador Jimenez, der das Team der Kommission zur Bekämpfung von CSAM leitet.
Labrador Jimenez erhält zwar keine Vergütung für seine Mitgliedschaft im Vorstand, WeProtect wird jedoch von der EU kofinanziert. Balkan Insight weist darauf hin, dass seine Position im Vorstand „Fragen darüber aufwirft, wie die Kommission ihre Beteiligung an der Organisation nutzt, um Johannsons Vorschlag zu fördern.“
WeProtect teilte Euractiv mit, dass ihre Mitglieder „102 Regierungen, 67 Unternehmen des Privatsektors, 93 zivilgesellschaftliche Organisationen und 9 zwischenstaatliche Organisationen“ umfassen und „Experten aus diesen Mitgliedern zusammenbringen, um komplexe Probleme aufzuschlüsseln und Strategien und Lösungen zum Schutz von Kindern vor sexuellem Missbrauch im Internet zu entwickeln.“
Die Organisation fügte hinzu, dass sie „nicht direkt zur Entwicklung oder zum Inhalt des vorgeschlagenen Gesetzes der Europäischen Kommission beigetragen hat“, aber „ihr Engagement begrüßt, dieses dringende Problem anzugehen, das Millionen von Kindern auf der ganzen Welt betrifft.“
Ausschuss für Freiheiten besorgt
Juan Fernando López Aguilar, der Vorsitzende des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres (LIBE), sandte am 28. September ein Schreiben an Kommissarin Johansson, das Euractiv einsehen konnte. In dem Schreiben brachten die LIBE-Koordinatoren ihre Besorgnis über die Berichte zum Ausdruck.
„Besonders besorgniserregend sind die Behauptungen, dass die Lösungen, die im Gesetzesvorschlag zur Bekämpfung von CSAM vorgesehen sind, angeblich die von diesen Gruppen entworfenen Lösungen wiederholen und damit zur Förderung ihrer wirtschaftlichen Interessen beitragen“, schrieb López Aguilar.
Er forderte Johansson auf, „Klarstellungen und Erklärungen zu den Behauptungen“ abzugeben.
Slifer von Thorn reagierte ebenfalls auf den Brief und erklärte in einer Antwort vom 2. Oktober, die Euractiv einsehen konnte, dass der Schwerpunkt des Unternehmens auf dem Schutz von Kindern und der Bereitstellung von Werkzeugen für kleine und mittlere Unternehmen liege, die „normalerweise nicht über die notwendigen Fähigkeiten verfügen, um sexuellen Missbrauch von Kindern auf ihren Plattformen zu bekämpfen.“
Sie bot auch an, sich mit López Aguilar oder seinen Kollegen zu treffen, „um alle Fragen zu beantworten, die Sie möglicherweise haben, in dem Format, für das Sie sich entscheiden.“
„Interessante institutionelle Reform: Thorn beantwortet Briefe im Namen der Kommission“, schrieb die Abgeordnete Sophie in ‚t Veld auf X.
Die Reaktionen der Kommission
Die Sprecherin der Kommission für Inneres, Anitta Hipper, sagte Euractiv, dass „der Fokus darauf liegen sollte, schnell die effektivsten Lösungen zu finden.“
Während ein anderer Balkan Insight–Artikel letzte Woche berichtete, dass Europol „unbegrenzten Datenzugang“ fordere, um CSAM im Jahr 2022 aufzuspüren, wurde der Text des Vorschlags in der Zwischenzeit geändert.
Hipper fügte hinzu, dass es in dem Gesetzesentwurf „in erster Linie um Prävention geht, mit gezielter Aufdeckung als letzte Maßnahme. Die Überwachung ist nicht allgemein: Es wird ein Mandat geben, das sich auf einen bestimmten Dienst eines Unternehmens bezieht und zeitlich begrenzt ist.“
Johansson schrieb auf X: „Trotz der Versuche, unsere Arbeit falsch darzustellen, werden wir weiterhin das tun, was für unsere Kinder richtig ist.“
Sie postete auch ein Video, in dem sie betonte, dass der Gesetzesentwurf ihr Vorschlag sei und sie selbst entscheide, was er enthalte.
Der LIBE-Ausschuss wird am 26. Oktober über die Gesetzgebung abstimmen, wobei die Aufdeckungsanordnungen, die ausgestellt würden, um die Aufdeckung von CSAM auf Plattformen zu ermöglichen, noch diskutiert werden müssen.
[Bearbeitet von Zoran Radosavljevic/Nathalie Weatherald]