KI-Gesetz: Frankreich für Änderungen bei Aufsichtsrat und Marktüberwachung

Dem Text wurde ein neuer Artikel beigefügt, der die Europäische Kommission dazu verpflichtet, auf eigene Initiative oder auf Ersuchen des Ausschusses Leitlinien für die Anwendung der KI-Verordnung zu erstellen, insbesondere im Hinblick auf die Einhaltung der Anforderungen für Systeme mit hohem Risiko, verbotene Praktiken und die Durchführung wesentlicher Änderungen an bestehenden Systemen. [Pixels Hunter/Shutterstock]

Ein weiterer Kompromisstext zum KI-Gesetz wurde von der französischen Ratspräsidentschaft im Vorfeld einer Arbeitsgruppensitzung am Dienstag (10. Mai) an die Diplomat:innen des EU-Rates weitergeleitet.

Der neue Text, der EURACTIV vorliegt, enthält wesentliche Änderungen in Bezug auf den Europäischen Ausschuss für künstliche Intelligenz, die Marktüberwachung, die Leitlinien und die Verhaltenskodexe.

Die Mitgliedstaaten seien im Allgemeinen zufrieden mit der Ausrichtung, die die französische Ratspräsidentschaft dem Dossier verliehen habe, sagte ein EU-Diplomat gegenüber EURACTIV.

Europäischer Ausschuss für künstliche Intelligenz

Die Struktur des Ausschusses wurde so geändert, dass anstelle der nationalen Aufsichtsbehörde nun ein Vertreter für jeden Mitgliedsstaat vorgesehen wird. Dieser Vertreter soll für ein dreijähriges Mandat ernannt werden, das nur einmal verlängert werden kann.

Acht unabhängige Expert:innen würden in den Ausschuss aufgenommen werden, zwei pro Kategorie, die kleine und mittlere Unternehmen (KMU) und Start-ups, große Unternehmen, Wissenschaftler:innen und die Zivilgesellschaft vertreten. Diese Experten:innen sollen von den nationalen Vertretern „in einem fairen und transparenten Auswahlverfahren“ ausgewählt werden, heißt es im Kompromisstext.

Zudem soll der Europäische Datenschutzbeauftragte nicht mehr als Vollmitglied, sondern nur noch als Beobachter fungieren. Auch die Rolle der Kommission wird deutlich verringert, indem sie vom Vorsitz des Ausschusses zu einem Teilnehmer ohne Stimmrecht degradiert werden soll.

Nach dem französischen Vorschlag soll die Verfahrensordnung nur von den nationalen Vertreter:innen mit einer Zweidrittelmehrheit angenommen werden. Diese Verfahrensregeln würden das Auswahlverfahren für die unabhängigen Expert:innen sowie die Auswahl, das Mandat und die Aufgaben des Vorsitzenden des Ausschusses festlegen, der ein nationaler Vertreter sein soll.

Der Ausschuss könnte zu bestimmten Themen befristete oder ständige Untergruppen einrichten, zu denen Vertreter:innen von Unternehmen, der Zivilgesellschaft, Betroffene, Forscher:innen, Normungsorganisationen und notifizierte Stellen als Beobachter eingeladen werden könnten.

Der Ausschuss soll die Kommission auf Anfrage aus eigener Initiative in allen relevanten Fragen im Zusammenhang mit der Umsetzung der Verordnung beraten. Dazu gehören die Überarbeitung der Anhänge zur Definition von künstlicher Intelligenz und der Liste der als hochriskant eingestuften Systeme, die Ausarbeitung von Sekundärrecht und die Entwicklung von Leitlinien.

Eine der spezifischen Aufgaben besteht darin, die Verwaltungspraktiken auf nationaler Ebene zu harmonisieren, was die Abweichung vom Konformitätsbewertungsverfahren, die Funktion der regulatorischen Sandkästen und die Tests unter realen Bedingungen betrifft.

Frankreich pocht auf verhältnismäßige Bußgelder bei KI-Gesetz

Die französische EU-Ratspräsidentschaft hat in einem neuen Kompromisstext, der EURACTIV vorliegt, eine Reihe von Vorschlägen zur Umsetzung des EU-Gesetzes über künstliche Intelligenz gemacht.

Leitlinien

Dem Text wurde ein neuer Artikel beigefügt, der die Europäische Kommission dazu verpflichtet, auf eigene Initiative oder auf Ersuchen des Ausschusses Leitlinien für die Anwendung der KI-Verordnung zu erstellen, insbesondere im Hinblick auf die Einhaltung der Anforderungen für Systeme mit hohem Risiko, verbotene Praktiken und die Durchführung wesentlicher Änderungen an bestehenden Systemen.

Die Leitlinien würden auch die Identifizierung von Kriterien und Anwendungsfällen für KI-Systeme mit hohem Risiko, die Umsetzung der Transparenzverpflichtungen in der Praxis und die Wechselwirkung der KI-Verordnung mit anderen EU-Rechtsvorschriften abdecken.

„Bei der Herausgabe solcher Leitlinien wird die Kommission den Bedürfnissen von KMU, einschließlich Start-ups und Sektoren, die am wahrscheinlichsten von dieser Verordnung betroffen sein werden, besondere Aufmerksamkeit widmen“, so der Text weiter.

Marktüberwachung

Die Änderung in diesem Teil des Textes soll „die Befugnisse der Marktüberwachungsbehörden und die Art und Weise klären, in der sie ihre Befugnisse ausüben werden, sowie den Umfang, in dem sie Zugang zu relevanten Daten und Informationen, insbesondere zum Quellcode, haben sollten.“

Die Marktaufsichtsbehörden sollen vollen Zugang zum Quellcode eines KI-Systems mit hohem Risiko erhalten, wenn ein „begründeter Antrag“ vorliegt. Das heißt, der Code wird benötigt, um die Konformität des Systems zu bewerten, da die vorgelegten Daten und Dokumente als unzureichend erachtet wurden.

Der Kompromisstext weist darauf hin, dass die Marktaufsichtsbehörden für die Überwachung der von Finanzinstituten verwendeten Hochrisikosysteme zuständig sind. Die nationalen Behörden müssen die Europäische Zentralbank unverzüglich über alle Informationen benachrichtigen, die für ihre Aufsichtsaufgaben relevant sind.

Das Verfahren zur Meldung von Maßnahmen, die gegen nicht konforme KI-Systeme ergriffen wurden, an andere Mitgliedsstaaten und die Kommission wurde erheblich geändert. Diese Fälle sollen nun für Systeme gelten, die gegen die Auflagen für verbotene Praktiken verstoßen, für Systeme mit hohem Risiko und deren Anforderungen sowie für die Nichteinhaltung der Transparenzverpflichtungen, die für Deep-Fakes und Emotionserkennungen festgelegt wurden.

Generell haben Kommission und EU-Länder drei Monate Zeit, um gegen solche Maßnahmen Einspruch zu erheben. Bei mutmaßlichen Verstößen gegen das Verbot unzulässiger Praktiken ist die Frist auf 30 Tage verkürzt worden.

Wird ein Einspruch erhoben, so tritt die Kommission in Konsultation mit den zuständigen nationalen Behörden. Die EU-Exekutive beschließt innerhalb von neun Monaten, ob die Entscheidung gerechtfertigt ist. Bei verbotenen Praktiken beträgt die Frist jedoch 60 Tage.

Die Kommission kann die Entscheidung der Behörde außer Kraft setzen. Hält die Kommission die Maßnahmen jedoch für angemessen, müssen alle anderen Behörden diese umsetzen, auch indem sie das KI-System vom Markt entfernen.

Verhaltenskodexe

Der Artikel über die Verhaltenskodexe wurde geändert, um klarzustellen, dass es sich dabei um freiwillige Instrumente für KI-Systeme handelt, die nicht in die Hochrisikokategorie fallen. Die Verhaltenskodexe sollen nun auch die Pflichten der Nutzer:innen von KI-Systemen abdecken.

Französische Präsidentschaft schlägt Änderungen am KI-Gesetz vor

Frankreich schlägt mehrere Änderungen am Gesetz über künstliche Intelligenz vor, um eine bessere Anpassung an den neuen EU-Rechtsrahmen zu gewährleisten, der die Marktüberwachung und die Konformitätsbewertungsverfahren regelt.

[Bearbeitet von Alice Taylor]

Subscribe to our newsletters

Subscribe