Die Mitglieder des EU-Parlaments, die in die Ausarbeitung des KI-Gesetzes involviert sind, beraten weiterhin über deren Ausführung. Angesichts der jüngsten Vorschläge über den Governance-Aspekt des Gesetzes, gibt es viel zu besprechen.
Das KI-Gesetz ist ein richtungsweisendes Gesetz, das künstliche Intelligenz auf der Grundlage ihres Risikopotenzials reguliert. Es befindet sich derzeit in der letzten Phase des Gesetzgebungsverfahrens, in der sich das EU-Parlament und der Rat auf die endgültigen Bestimmungen einigen und die Kommission als „ehrlicher Makler“ zwischen beiden fungiert.
Die Kommission hat den Kompromisstext entworfen, der am Sonntag (19. November) mit den Co-Berichterstattern des Europäischen Parlaments geteilt wurde. Dieser beinhaltet auch einen neuen Vorschlag zur Regulierung von Allzweck-KI-Modellen, wie Euractiv am Montag berichtete. Der Text enthält einige Vorschläge der federführenden Europaabgeordneten.
Wie die Co-Berichterstatter in einer Notiz am Rande des Textes anmerken, ist ein entscheidender Artikel aus einer früheren Fassung des Textes verschwunden, der es der Europäischen Kommission ermöglichte, im Falle weit verbreiteter Verstöße Maßnahmen zu ergreifen.
Büro für künstliche Intelligenz
Dem neuen Text zufolge überwacht das Büro für künstliche Intelligenz die Durchsetzung von Allzweck-KI-Modellen (GPAI), wobei die EU-Länder seine Aufgaben unterstützen sollen.
Insbesondere soll das KI-Büro alle relevanten Informationen für die Anwendung der Bestimmungen des KI-Gesetzes auf die Anbieter von GPAI-Modellen überwachen und anfordern, einschließlich ihrer Einhaltung der genehmigten Verhaltenskodizes.
Nachgelagerte Wirtschaftsakteure, die ein System auf der Grundlage eines GPAI-Modells aufgebaut haben, erhalten das Recht, eine begründete Beschwerde wegen mutmaßlicher Verstöße gegen das KI-Gesetz einzureichen.
Darüber hinaus ist das KI-Büro befugt, nach Rücksprache mit dem Verwaltungsrat Ex-post-Bewertungen von GPAI-Modellen vorzunehmen, um deren Übereinstimmung mit der KI-Verordnung zu beurteilen, wenn die gesammelten Informationen nicht schlüssig sind, oder um systemische Risiken auf EU-Ebene zu untersuchen.
Das Büro kann unabhängige Experten aus dem wissenschaftlichen Gremium damit beauftragen, in seinem Namen Bewertungen vorzunehmen. In solchen Fällen kann es vorkommen, dass das KI-Büro den Zugriff auf die Modelle über eine Anwendungsprogrammierschnittstelle (API) oder andere technische Mittel beantragt.
Für die federführenden Abgeordneten sollte dem Zugriffsantrag ein strukturierter Dialog zwischen dem KI-Büro und dem Modellanbieter vorausgehen.
Darüber hinaus kann das KI-Büro die Anbieter von GPAI-Modellen auffordern, geeignete Maßnahmen zu ergreifen, um ihren Verpflichtungen nachzukommen, oder Abhilfemaßnahmen zu ergreifen, wenn begründete Bedenken hinsichtlich eines systemischen Risikos auf EU-Ebene bestehen, einschließlich der Wiederherstellung der Verfügbarkeit oder der Rücknahme des Modells vom Markt.
Bietet der Anbieter des GPAI-Modells im Rahmen eines strukturierten Dialogs an, entsprechende Abhilfemaßnahmen zu ergreifen, könnte das KI-Büro diese Verpflichtungen für verbindlich erklären und von weiteren Maßnahmen absehen.
Es wird eine Sanktionsregelung für Verstöße gegen das KI-Gesetz und das Versäumnis, mit dem KI-Büro zusammenzuarbeiten, erwähnt, jedoch ohne Verweis auf den maximalen Prozentsatz des weltweiten Umsatzes des Unternehmens. Die Modalitäten für die Verhängung von Bußgeldern sollen im Sekundärrecht festgelegt werden.
Die Co-Berichterstatter wollen auch, dass das KI-Büro die Koordinierung gemeinsamer Untersuchungen unterstützt.
Europäischer Ausschuss für künstliche Intelligenz
Der Kompromiss sieht vor, dass der geplante Europäische Ausschuss für künstliche Intelligenz aus einem Vertreter pro EU-Land besteht, der für drei Jahre ernannt wird und einmal verlängert werden kann. Die federführenden Europaabgeordneten wollen, dass der Europäische Datenschutzbeauftragte, die Agentur der Europäischen Union für Grundrechte und die EU-Agentur für Cybersicherheit ENISA als Beobachter teilnehmen.
Der Ausschuss muss seine Geschäftsordnung mit Zweidrittelmehrheit verabschieden und zwei ständige Untergruppen mit Marktüberwachungs- bzw. notifizierenden Behörden haben. Das KI-Büro soll das Sekretariat des Ausschusses übernehmen.
Nach dem Vorbild des Europäischen Datenschutzausschusses hätte der Ausschuss die Aufgabe, die kohärente Anwendung des KI-Regelwerks in der gesamten EU zu gewährleisten und gleichzeitig zu sekundären Rechtsvorschriften, Verhaltenskodizes und technischen Normen zu beraten.
Die Co-Berichterstatter schlagen vor, die Aufgaben des Büros um die Unterstützung der nationalen Behörden bei der Einrichtung von Reallaboren und die Organisation regelmäßiger Konsultationen mit dem Beratungsgremium zu erweitern.
Wissenschaftliches Gremium
Die Einsetzung eines wissenschaftlichen Gremiums unabhängiger Experten wurde ebenfalls in den Text aufgenommen. Die Kommission soll die Experten auf der Grundlage ihres Fachwissens, ihrer Unabhängigkeit von KI-Unternehmen und der Genauigkeit ihrer Arbeit ernennen.
Bei den Co-Berichterstattern soll die Zusammensetzung des Gremiums eine ausgewogene Repräsentation von Männern und Frauen und eine geografische Ausgewogenheit gewährleisten.
Das Gremium berät das KI-Büro in Bezug auf Allzweck-KI-Modelle (GPAI), insbesondere indem es zur Entwicklung von Methoden zur Bewertung der Fähigkeiten der Modelle beiträgt und bei der Klassifizierung von Modellen mit systemischen Risiken berät.
Darüber hinaus sollten die Experten des Gremiums das KI-Büro benachrichtigen, wenn sie der Meinung sind, dass ein GPAI-Modell ein konkretes Risiko auf EU-Ebene darstellt oder die Anforderungen erfüllt, um es als Modell mit systemischen Risiken einzustufen.
Die führenden Abgeordneten schlagen außerdem vor, dass die wissenschaftlichen Experten über die relevanten Referenzwerte für GPAI-Modelle und die Unterscheidung zwischen den Kategorien GPAI-Modell und -System beraten.
Was die nationalen Behörden betrifft, so würden die Experten deren Arbeit und länderübergreifende Untersuchungen auf Anfrage unterstützen. Das KI-Büro müsste potenzielle Interessenkonflikte der Gremiumsmitglieder handhaben.
Beratendes Forum
Der Kommissionstext greift die Idee des Europäischen Parlaments auf, ein beratendes Forum einzurichten, in dem Interessengruppen wie Vertreter der Industrie, KMU, Start-ups, zivilgesellschaftliche Organisationen und Akademiker dem Verwaltungsrat und dem Amt für künstliche Intelligenz mit ihrem Fachwissen zur Seite stehen würden.
[Bearbeitet von Alice Taylor/Kjeld Neubert]