Die spanische EU-Ratspräsidentschaft hat die Mitgliedstaaten im Vorfeld eines entscheidenden politischen Treffens zum KI-Gesetz um Flexibilität in dem sensiblen Bereich der Strafverfolgung gebeten.
Das KI-Gesetz ist ein Vorzeigegesetz zur Regulierung der künstlichen Intelligenz auf der Grundlage ihrer Fähigkeit, Schaden zu verursachen. Es befindet sich derzeit in der letzten Phase des Gesetzgebungsverfahrens, in der die EU-Kommission, der Rat und das Parlament in sogenannten Trilogen über die endgültigen Bestimmungen verhandeln.
Die EU-Institutionen sind bestrebt, beim Trilog am 6. Dezember eine endgültige Einigung zu erzielen. Im Vorfeld dieses entscheidenden Termins benötigt die spanische Ratspräsidentschaft, die im Namen der europäischen Regierungen verhandelt, ein überarbeitetes Verhandlungsmandat.
Am Freitag (24. November) hat die Präsidentschaft die erste Hälfte des Verhandlungsmandats in Umlauf gebracht, in der sie um Flexibilität bittet und auf mögliche Ansatzpunkte im Bereich der Strafverfolgung hinweist. Am Mittwoch soll das Mandat auf dem Tisch des Ausschusses der Ständigen Vertreter (COREPER) landen.
In der zweiten Hälfte des Mandats geht es um Basismodelle, Governance, Zugang zum Quellcode, die Sanktionsregelung, das Inkrafttreten der Verordnung und das Sekundärrecht. Sie wird am Freitag (1. Dezember) auf der COREPER-Ebene diskutiert werden.
Verbote
Die Abgeordneten haben die Liste der verbotenen Praktiken – KI-Anwendungen, die ein unzumutbares Risiko darstellen – erheblich erweitert.
Die Präsidentschaft schlägt vor, das Verbot des ungezielten Scannens von Gesichtsbildern, der Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, der biometrischen Kategorisierung zur Ableitung sensibler Daten wie sexueller Orientierung und religiöser Überzeugungen sowie der vorausschauenden Überwachung von Personen zu akzeptieren.
Darüber hinaus schlägt die Ratspräsidentschaft „im Geiste des Kompromisses“ vor, die Verbotsvorschläge des EU-Parlaments, die nicht akzeptiert wurden, in die Liste der risikoreichen Anwendungsfälle aufzunehmen, nämlich alle anderen Anwendungen zur biometrischen Kategorisierung und Emotionserkennung.
In Bezug auf die biometrische Erkennung aus der Distanz einigten sich die Parlamentarier darauf, das totale Verbot der Echtzeitnutzung fallen zu lassen und im Gegenzug die außergewöhnliche Nutzung einzuschränken und mehr Sicherheitsvorkehrungen aufzunehmen. Die Ratspräsidentschaft kategorisiert die nachträgliche Verwendung dieser Technologie als „hochriskant“ ein.
Ausnahmen für die Strafverfolgung
Das Mandat des Rates enthält mehrere Ausnahmeregelungen für die Nutzung von KI-Instrumenten durch Strafverfolgungsbehörden. Die Ratspräsidentschaft stellt fest, dass es ihr gelungen ist, „fast alle von ihnen zu übernehmen.“
Dazu gehören die Flexibilisierung des Textes für Polizeikräfte in Bezug auf die Verpflichtung zur Beaufsichtigung durch Menschen, die Meldung riskanter Systeme, die Überwachung nach dem Marktzugang und Vertraulichkeitsmaßnahmen zur Vermeidung der Offenlegung sensibler operativer Daten.
Die Präsidentschaft möchte auch, dass die Strafverfolgungsbehörden in der Lage sind, Software zur Emotionserkennung und biometrischen Kategorisierung zu verwenden, ohne die Betroffenen zu informieren.
Das Europäische Parlament hat hingegen erreicht, dass die Polizeibehörden die Hochrisikosysteme in der EU-Datenbank registrieren, allerdings in einem nicht-öffentlichen Bereich. Die Frist für IT-Großsysteme, um den Verpflichtungen des KI-Gesetzes zu entsprechen, wurde auf 2030 festgelegt.
Ausnahme für die nationale Sicherheit
Frankreich hat sich für eine umfassende Ausnahmeregelung für die nationale Sicherheit im KI-Gesetz eingesetzt. Gleichzeitig stellte die Ratspräsidentschaft fest, dass das EU-Parlament keine Flexibilität bei der Annahme des Wortlauts des Mandats des Rates gezeigt hat.
Spanien schlägt vor, diese Bestimmung in zwei Absätze aufzuteilen. Der erste besagt, dass die Verordnung nicht für Bereiche gilt, die nicht unter das EU-Recht fallen, und dass sie auf keinen Fall die Zuständigkeiten der Mitgliedstaaten im Bereich der nationalen Sicherheit oder von Einrichtungen, die mit Aufgaben in diesem Bereich betraut sind, berühren sollte.
Zweitens besagt der Abschnitt, dass das KI-Gesetz nicht für Systeme gilt, die für Tätigkeiten im Zusammenhang mit Verteidigung und dem Militär auf den Markt gebracht oder eingesetzt werden.
Folgenabschätzung für die Grundrechte
Sozialdemokratische Abgeordnete haben die Folgenabschätzung für die Grundrechte als neue Verpflichtung eingeführt, die von den Nutzern von Hochrisikosystemen vor deren Einsatz durchgeführt werden muss. Für die Präsidentschaft stellt dieser Punkt eine „absolut Notwendigkeit“ dar, diese Verpflichtung aufzunehmen, um eine Einigung mit dem Parlament erzielen zu können.
Ein Knackpunkt bei diesem Thema war der Anwendungsbereich: Die Parlamentarier forderten, alle Nutzer einzubeziehen, während die EU-Staaten darauf drängten, die Bestimmung auf öffentliche Einrichtungen zu beschränken. Der Kompromiss bestand darin, öffentliche Einrichtungen und nur private Akteure, die Dienstleistungen von allgemeinem Interesse erbringen, einzubeziehen.
Außerdem müsste die Folgenabschätzung für die Grundrechte Aspekte abdecken, die nicht bereits durch andere rechtliche Verpflichtungen abgedeckt sind, um Überschneidungen zu vermeiden.
Was die Verpflichtungen zum Risikomanagement, zur Datenverwaltung und zur Transparenz betrifft, so müssen die Nutzer lediglich überprüfen, ob der Anbieter des Hochrisikosystems diese Verpflichtungen erfüllt hat.
Für die Ratspräsidentschaft sollte die Verpflichtung, eine sechswöchige Konsultation durchzuführen, auch für öffentliche Einrichtungen abgeschafft und durch eine einfache Mitteilung an die zuständige nationale Behörde ersetzt werden.
Tests unter realen Bedingungen
Ein Streitpunkt in den Verhandlungen war die vom Rat eingeführte Möglichkeit, KI-Systeme mit hohem Risiko außerhalb der rechtlichen Rahmenbedingungen zu testen. Dem Vermerk der Ratspräsidentschaft zufolge wurden einige Schutzklauseln aufgenommen, um die Maßnahme für das Parlament annehmbar zu machen.
Der Text weist darauf hin, dass die Personen, die dem Test unterzogen werden, ihre aufgeklärte Zustimmung geben sollten. Weiterhin heißt es, dass in Fällen von Strafverfolgungsmaßnahmen, in denen es nicht möglich ist, um Zustimmung zu bitten, die Tests und ihre Ergebnisse keine negativen Auswirkungen auf die betroffenen Personen haben dürfen.
Ausnahmeregelung für die Bewertung der Konformität
Der Rat hat zudem ein Dringlichkeitsverfahren eingeführt, das es den Strafverfolgungsbehörden erlaubt, in Notfällen ein risikoreiches KI-Instrument einzusetzen, das noch nicht das Konformitätsbewertungsverfahren durchlaufen hat.
Die Abgeordneten wollen, dass dieses Verfahren von einer gerichtlichen Genehmigung abhängig gemacht wird, ein Punkt, den die Präsidentschaft für die EU-Staaten als unannehmbar erachtet. Als Kompromiss schlug der spanische Ratsvorsitz vor, den Mechanismus wieder einzuführen, der es der Kommission erlaubt, die Entscheidung zu überprüfen.
[Bearbeitet von Kjeld Neubert]