EU-Abgeordnete beschließen Berichtsentwurf zu künstlicher Intelligenz

Der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) und der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) des Europäischen Parlaments sind für das KI-Gesetz federführend. [Sergey Tarasov/Shutterstock]

Die beiden Ko-Berichterstatter des Europäischen Parlaments haben am Montag (11. April) den Entwurf des Berichts über Künstliche Intelligenz (KI) fertiggestellt und dabei die Themen aufgegriffen, bei denen sie Gemeinsamkeiten gefunden haben. Die umstrittensten Themen wurden weiter nach hinten verschoben.

Der Liberale Dragoș Tudorache und der Sozialdemokrat Brando Benifei haben die Diskussion über das KI-Gesetz im Ausschuss für Bürgerrechte beziehungsweise im Ausschuss für Verbraucherschutz des Europäischen Parlaments geleitet.

„Es gibt Dinge, auf die wir uns bereits geeinigt haben und die im Berichtsentwurf enthalten sein werden, und Dinge, bei denen wir glauben, dass wir uns einigen werden, aber weil wir noch keinen gemeinsamen Nenner gefunden haben, haben wir sie nicht in den Bericht aufgenommen“, sagte Tudorache.

„Unser Ansatz war es, diese Verordnung wirklich menschenzentriert zu gestalten“, sagte Benifei gegenüber EURACTIV. „Wir haben uns nicht auf alles geeinigt, aber wir haben einen wichtigen Schritt nach vorne gemacht.“

Breite Definition

Die beiden Abgeordneten einigten sich darauf, die Definition von KI möglichst breit zu fassen und Sonderregelungen für Allzweck-KI, die Systeme für verschiedene Aufgaben trainieren können, auszuschließen. Die Definition wurde weitgehend unverändert beibehalten, aber die Anforderung, dass KI vom Menschen definierte Ziele verfolgen muss, wurde gestrichen.

Verbotene Methoden und risikoreiche Anwendungen

Der Text fügte den untersagten Methoden das „Predictive Policing“ hinzu, „ein wichtiger Schritt, um gegen stark diskriminierende Praktiken vorzugehen“, sagte Benifei.

Für öffentliche Behörden sieht der Berichtsentwurf umfangreichere Verpflichtungen und Transparenzanforderungen bei der Nutzung von Hochrisikoanwendungen vor, einschließlich der Aufnahme in eine EU-weite Datenbank.

Die Liste der risikoreichen Anwendungen wurde um KI-Systeme erweitert, die für die Interaktion mit Kindern, die medizinische Triage, Versicherungen, Deep Fakes und Algorithmen mit potenziellen Auswirkungen auf demokratische Prozesse entwickelt wurden, zum Beispiel solche, die für Wahlkampagnen oder zur Auszählung elektronischer Stimmen verwendet werden.

Änderung der Strafverfolgungsbestimmungen im KI-Gesetz

Mit einem neuen Kompromisstext zu Künstlicher Intelligenz (KI) und Strafverfolgung treibt die französische Ratspräsidentschaft die Gesetzgebung in dem Bereich weiter voran.

Verantwortlichkeiten und Transparenz

„Der Text sorgt für mehr Klarheit bei der Aufteilung der Verantwortlichkeiten zwischen Anbietern und Nutzern. Wenn Nutzer Änderungen an dem von einem Anbieter auf den Markt gebrachten Algorithmus vornehmen, löst dies bestimmte Anforderungen an den Nutzer aus, die er erfüllen muss“, sagte Tudorache.

Benifei betonte jedoch, dass der Berichtsentwurf nicht weit genug gehe und er davon ausgehe, dass in der Änderungsphase noch mehr getan werden müsse.

Governance und Durchsetzung

Der Mitberichterstatter hat sich auf einen zweistufigen Ansatz geeinigt. Zusätzlich zur nationalen Ebene wollen die Abgeordneten eine europäische Ebene für KI-Anwendungen einführen, die tiefgreifende Auswirkungen auf die Verbraucher und weitreichende gesellschaftliche Folgen haben könnten.

„Die Logik ist dieselbe wie bei dem DSA“, erklärte Tudorache. „Bestimmte Teile der Anwendung verbleiben bei den nationalen Behörden, aber in bestimmten Fällen, die durch bestimmte Kriterien ausgelöst werden, tritt die Verantwortung der Kommission ein.“

Während die beiden leitenden Europaabgeordneten die Rolle des Europäischen Ausschusses für künstliche Intelligenz stärken wollen, der alle zuständigen nationalen Behörden und die Kommission versammeln wird, müssen sie noch klären, wie das geschehen soll.

Progressive Abgeordnete haben sich für eine neue EU-Agentur eingesetzt, die die Durchsetzung der Verordnung übernehmen soll. Benifei räumte jedoch ein, dass es dafür keine klare Mehrheit im Parlament gebe.

Der Berichtsentwurf enthält einen Änderungsantrag zur Aufnahme von KI in die Richtlinie über repräsentative Maßnahmen, was Verbrauchergruppen die Möglichkeit geben würde, Rechtsverfahren einzuleiten.

Unterschiede

Die beiden Abgeordneten sind sich aber nicht einig in Bezug auf die Konformitätsprüfung, das Verfahren, das zur Markteinführung neuer KI-Systeme führen soll.

Der ursprüngliche Vorschlag verlässt sich weitgehend auf die Selbstbewertung der Unternehmen, doch Benifei hält dies aus Sicht des Verbraucherschutzes und der Grundrechte für zu riskant. Tudorache hingegen möchte einen übermäßigen Verwaltungsaufwand für Unternehmen vermeiden.

Ein noch heikleres Thema sind biometrische Erfassungstechnologien, die die Kommission auf einige wenige Fälle beschränken will, ein Ansatz, der von Tudorache und konservativen Abgeordneten verteidigt wird. Im Gegensatz dazu fordern Benifei und linke Abgeordnete ein vollständiges Verbot, da selbst begrenzte Ausnahmen dem Missbrauch Tür und Tor öffnen könnten.

Die Ausdehnung des Verbots von Social-Scoring-Praktiken auf private Einrichtungen war ebenfalls im Gespräch, aber es wurde noch keine Einigung über den genauen Wortlaut gefunden. In ähnlicher Weise wird auch die biometrische Kategorisierung in der Änderungsphase behandelt.

Ein weiterer Punkt, der nicht in den Berichtsentwurf aufgenommen wird, sind die sogenannten regulatorischen Sandkästen, ein Rahmen für das Experimentieren mit neuen KI-Anwendungen unter der Aufsicht einer Regulierungsbehörde. Die konservativen Abgeordneten wollen die regulatorischen Sandkästen ausweiten, und Tudorache ist entschlossen, sie nicht nur auf nationaler, sondern auch auf regionaler Ebene zu verwirklichen, um KMU besser zu erreichen.

Die beiden Abgeordneten haben auch über die Einbeziehung einer Folgenabschätzung in Bezug auf die Grundrechte diskutiert. Benifei möchte dies für alle Nutzer einführen, Tudorache hingegen nur für öffentliche Einrichtungen.

Zeitplan

Der Berichtsentwurf soll am 11. Mai in den beiden Parlamentsausschüssen diskutiert werden. Der endgültige Text soll am 26. oder 27. Oktober von den Ausschüssen verabschiedet und am 9. November vom Plenum gebilligt werden.

Praktische Schwierigkeiten könnten auftreten, wenn es darum geht, eine gemeinsame Tagesordnung mit so vielen Beteiligten zu finden, insbesondere während des Sommers, ganz zu schweigen von möglichen Meinungsverschiedenheiten in hochpolitischen Fragen. Dennoch zeigten sich beide Abgeordnete optimistisch, dass das Parlament seinen Standpunkt bis zum Ende des Jahres annehmen wird.

[Bearbeitet von Nathalie Weatherald]

Subscribe to our newsletters

Subscribe