KI-Gesetz: Tschechische Ratspräsidentschaft skizziert Weg für Diskussionen

Die tschechische Ratspräsidentschaft will bis Dezember einen allgemeinen Ansatz für das KI-Gesetz erreichen. [Best Icon Studio/Shutterstock]

Die künftige tschechische Ratspräsidentschaft hat ein Diskussionspapier mit den anderen EU-Regierungen geteilt, um deren Ansichten zu der Definition von KI, Hochrisikosystemen, Governance und nationaler Sicherheit einzuholen.

Das Papier, das EURACTIV vorliegt, wird die Grundlage für die Diskussion in der Arbeitsgruppe Telekommunikation am 5. Juli bilden, mit dem Ziel, bis zum 20. Juli einen aktualisierten Kompromisstext vorzulegen. Die Mitgliedsstaaten werden dann gebeten, bis zum 2. September schriftliche Kommentare zu dem neuen Kompromiss abzugeben.

„Die tschechische Präsidentschaft hat vier wichtige offene Fragen identifiziert, die einer gründlicheren Diskussion bedürfen und bei denen es von entscheidender Bedeutung wäre, von den Mitgliedstaaten Hinweise zu erhalten, um die Verhandlungen auf die nächste Stufe zu bringen“, heißt es in dem Dokument.

Das Dokument ist das erste der tschechischen Präsidentschaft, die offiziell erst im Juli beginnt. Der Entwurf zeigt die Kontinuität der von der französischen Präsidentschaft eingeschlagenen Richtung auf und enthält die wichtigsten Themen, auf die sich Tschechien konzentrieren wird.

Definition

Das interne Dokument stellt fest, dass „eine große Anzahl“ von EU-Ländern die Definition dessen, was ein KI-gestütztes System ist, in Frage gestellt hat. Die derzeitige Definition wird als zu breit und mehrdeutig angesehen, wodurch die Gefahr besteht, dass auch einfache Software darunter fallen könnten.

In diesem Zusammenhang stellt sich auch die Frage, inwieweit die Kommission in der Lage sein sollte, Anhang I der Verordnung durch sekundäres Recht zu ändern. In diesem Anhang werden Techniken und Ansätze im Bereich der künstlichen Intelligenz definiert.

Die tschechische Präsidentschaft bietet verschiedene Alternativen an, wie diese Bedenken ausgeräumt werden können.

Die vorsichtigere Option besteht darin, den Kommissionsvorschlag beizubehalten oder den von der französischen Ratspräsidentschaft vorgeschlagenen Formulierungen zu folgen und einige Elemente zur Präzisierung hinzuzufügen, indem Verweise auf das Lernen, das Schlussfolgern und die Modellierung dieser Technologien aufgenommen werden.

In diesem Szenario behält die EU-Exekutive ihre delegierten Befugnisse bei, und Änderungen können nur im Rahmen eines ordentlichen Gesetzgebungsverfahrens vorgenommen werden.

Die anderen Möglichkeiten beinhalten eine engere Definition, die KI-Systeme abdeckt, die entweder nur durch maschinelle Lerntechniken oder durch maschinelles Lernen und wissensbasierte Ansätze entwickelt werden.

In diesem Fall wird Anhang I gestrichen, und die KI-Techniken werden direkt in den Text aufgenommen, entweder in die Präambel des Gesetzes oder in den entsprechenden Artikel.

Die Kommission hätte lediglich die Befugnis, Durchführungsrechtsakte zu erlassen, um bestehende Kategorien genauer zu definieren.

Hochrisikosysteme

Der Anhang III des KI-Gesetzes enthält eine Liste von KI-Anwendungen, die als hochriskant für das menschliche Wohlbefinden und die Grundrechte gelten. Für einige Mitgliedstaaten ist die Formulierung jedoch zu großzügig, und es sollten nur die Anwendungsfälle erfasst werden, für die eine Folgenabschätzung durchgeführt wurde.

In diesem Fall ist die vorsichtigste Option die Beibehaltung des Textes gemäß dem französischen Kompromiss.

Alternativ können die EU-Länder dafür plädieren, bestimmte Anwendungsfälle zu streichen oder zu ergänzen, oder die Formulierung genauer zu fassen.

Die tschechische Ratspräsidentschaft schlug außerdem vor, eine weitere Komponente hinzuzufügen, nämlich einige hochrangige Kriterien zur Feststellung, was konkret ein erhebliches Risiko darstellt. Die Anbieter würden dann selbst einschätzen, ob ihr System diese Kriterien erfüllt.

Eine weitere Möglichkeit zur Eingrenzung der Klassifizierung bestünde in der Unterscheidung, ob das KI-System eine vollständig automatisierte Entscheidungsfindung ermöglicht, was automatisch ein hohes Risiko darstellen würde, oder ob es lediglich menschliche Entscheidungen informiert.

Im letzteren Fall würde das System nur dann als risikoreich gelten, wenn die durch KI generierten Informationen für die Entscheidungsfindung maßgeblich wären. Die Kommission müsste jedoch durch sekundärrechtliche Vorschriften noch genauer klären, was unter einem maßgeblichen Faktor zu verstehen ist.

Die EU-Länder werden gefragt, ob die Kommission weiterhin die Befugnis haben sollte, neue Hochrisikofälle in den Anhang aufzunehmen.

Darüber hinaus sollen die Mitgliedstaaten entscheiden können, ob die EU-Exekutive unter bestimmten Bedingungen Anwendungsfälle streichen kann oder ob diese Befugnisse aufgehoben werden sollen.

Französische Präsidentschaft schlägt Änderungen am KI-Gesetz vor

Frankreich schlägt mehrere Änderungen am Gesetz über künstliche Intelligenz vor, um eine bessere Anpassung an den neuen EU-Rechtsrahmen zu gewährleisten, der die Marktüberwachung und die Konformitätsbewertungsverfahren regelt.

Governance und Durchsetzung

Mehrere EU-Länder haben Bedenken geäußert, dass der „übermäßig dezentralisierte Governance-Rahmen auf nationaler Ebene Einschränkungen für eine wirksame Durchsetzung darstellen könnte“.

Die Mitgliedstaaten befürchten insbesondere, dass sie nicht über ausreichende Kapazitäten und Fachkenntnisse verfügen, um die KI-Vorschriften durchzusetzen.

Gleichzeitig stellt die tschechische Ratspräsidentschaft fest, dass die Gesetzgebung ein „gewisses Maß an Flexibilität für nationale Gesetze und Besonderheiten“ bieten sollte und dass „die Übertragung von Durchsetzungsbefugnissen auf eine zentralere Ebene auch sorgfältige Überlegungen zu praktischen und budgetären Auswirkungen erfordert“.

Wie unter der französischen Ratspräsidentschaft erläutert, folgt der derzeitige Governance-Rahmen der EU-Marktüberwachungsverordnung, wobei die nationalen Behörden das Sagen haben. Ein KI-Ausschuss soll die Koordinierung übernehmen und die Kommission nur in Extremfällen eingreifen.

Eine andere Möglichkeit wäre die weitere Unterstützung der Mitgliedstaaten durch EU-Prüfeinrichtungen, einen Expertenpool und einen Notfallmechanismus, um die Unterstützung zu beschleunigen.

Der KI-Ausschuss könnte ebenfalls gestärkt werden, um die nationalen Behörden zu unterstützen. Darüber hinaus könnte der Ausschuss ein expliziteres Mandat auf der Grundlage der Medizinprodukteverordnung erhalten, indem er die Marktüberwachungsaktivitäten leitet und koordiniert.

Schließlich könnte die Kommission befugt werden, unter außergewöhnlichen Umständen direkte Untersuchungen einzuleiten, was jedoch „mit erheblichen praktischen und finanziellen Auswirkungen verbunden ist“.

KI-Gesetz: Frankreich für Änderungen bei Aufsichtsrat und Marktüberwachung

Ein weiterer Kompromisstext zum KI-Gesetz wurde von der französischen Ratspräsidentschaft im Vorfeld einer Arbeitsgruppensitzung am Dienstag (10. Mai) an die Diplomat:innen des EU-Rates weitergeleitet.

Ausnahme für die nationale Sicherheit

In dem Dokument wird festgestellt, dass eine breite Mehrheit der EU-Länder KI-Anwendungen, die der nationalen Sicherheit und militärischen Zwecken dienen, ausdrücklich von der KI-Verordnung ausnehmen möchte. Sie sind jedoch der Ansicht, dass das Konzept noch nicht ausreichend definiert ist.

„Diese Verordnung gilt nicht für KI-Systeme, die ausschließlich für militärische oder nationale Sicherheitszwecke entwickelt oder genutzt werden“, heißt es in dem vorliegenden Kompromiss.

Dieser könnte dahingehend geändert werden, dass das Wort „ausschließlich“ gestrichen wird, was allerdings zu Unklarheiten führen könnte.

Andererseits könnte die Formulierung dahingehend geändert werden, dass sie sich nur auf KI-Systeme bezieht, die für militärische oder nationale Sicherheitszwecke in Verkehr gebracht oder in Betrieb genommen werden, wodurch die Entwicklungsphase ausgeschlossen wird.

KI-Gesetz: Frankreich strebt mehr Flexibilität für regulatorische Sandkästen an

Die französische Ratspräsidentschaft hat vor der Sitzung der Arbeitsgruppe Telekommunikation am Freitag in einem endgültigen Kompromisstext weitere Änderungen am KI-Gesetz in Bezug auf Innovation und regulatorische Sandkästen vorgeschlagen.

[Bearbeitet von Nathalie Weatherald]

Subscribe to our newsletters

Subscribe