Französische Präsidentschaft schlägt Änderungen am KI-Gesetz vor

Die französische EU-Ratspräsidentschaft hat stetige Fortschritte beim Gesetz über künstliche Intelligenz gemacht. [Alexandros Michailidis/Shutterstock]

Frankreich schlägt mehrere Änderungen am Gesetz über künstliche Intelligenz vor, um eine bessere Anpassung an den neuen EU-Rechtsrahmen zu gewährleisten, der die Marktüberwachung und die Konformitätsbewertungsverfahren regelt. Die Änderungen betreffen auch die Benennung der zuständigen Behörden und die Datenbank für Hochrisiko-KI-Systeme.

Die französische Ratspräsidentschaft ist federführend für die Arbeit im EU-Rat und hat am Montag (25. April) einen neuen Kompromisstext vorgelegt, der am Donnerstag in der Arbeitsgruppe für Telekommunikation mit den Vertretern der anderen Mitgliedstaaten diskutiert werden soll.

Notifizierte Stellen und zuständige Behörden

Die sogenannten notifizierten Stellen werden eine entscheidende Rolle bei der Durchsetzung des KI-Gesetzes spielen, da sie von den EU-Mitgliedstaaten benannt werden, um die Konformität der KI-Systeme mit den EU-Vorschriften zu bewerten, bevor sie auf den Markt gebracht werden.

Der neue Text verweist ausdrücklich auf die EU-Verordnung, in der die Anforderungen für die Akkreditierung und Marktüberwachung festgelegt sind. Außerdem wurde ein Hinweis darauf aufgenommen, dass diese Stellen die Vertraulichkeitsverpflichtungen einhalten müssen.

Es wurde ein neuer Artikel eingeführt, der die Arbeitsweise der notifizierten Stellen vorschreibt, insbesondere für die Konformitätsbewertung von Hochrisiko-Systemen.

Der neue Artikel enthält Bestimmungen darüber, wie die notifizierten Stellen mit den nationalen Behörden zusammenarbeiten müssen, die für die Überwachung des gesamten Konformitätsbewertungsverfahrens zuständig sind.

Hat die nationale Behörde „hinreichende Gründe zu der Einschätzung“, dass eine notifizierte Stelle ihren Verpflichtungen nicht nachkommt, sollte sie geeignete Maßnahmen ergreifen, die in einem angemessenen Verhältnis zum Grad der Nichterfüllung stehen, insbesondere indem sie die Notifizierungen für diese Stelle einschränkt, aussetzt oder widerruft.

Um eine notifizierte Stelle zu werden, gibt es ein Antragsverfahren, das von der zuständigen Behörde durchgeführt wird. Die nationalen Behörden können auch außerhalb dieses Verfahrens Stellen benennen, müssen aber in diesem Fall der Kommission und den anderen Mitgliedstaaten Unterlagen vorlegen, die die Befugnis der Stelle nachweisen und zeigen, wie sie die einschlägigen Anforderungen erfüllen wird.

Ebenso wird die Kommission die Befugnisse der notifizierten Stelle in Frage stellen können. Es wurde ein zusätzlicher Satz eingefügt, der die EU-Exekutive ermächtigt, die Notifizierung in bestimmten Fällen im Wege des Sekundärrechts auszusetzen, einzuschränken oder zu widerrufen, in Übereinstimmung mit ähnlichen Bestimmungen der Verordnung über Medizinprodukte.

Ein wichtiger Teil des KI-Gesetzes wird durch harmonisierte Normen umgesetzt, die festlegen, wie allgemeine Konzepte der Verordnung wie „Fairness“ und „Sicherheit“ konkret auf künstliche Intelligenz anzuwenden sind.

Wenn ein System solche Normen einhält, gilt es als konform mit der Verordnung. Ebenso wird in einem neuen Artikel klargestellt, dass diese Konformitätsvermutung auch für notifizierte Stellen gilt, die die harmonisierten Normen befolgen.

Die benannten Stellen in der gesamten Union müssen ihre Konformitätsbewertungsverfahren in einer speziellen Arbeitsgruppe koordinieren, allerdings nur für Hochrisiko-KI-Systeme. Die nationalen Behörden werden sicherstellen, dass eine effektive Zusammenarbeit zwischen den Stellen stattfindet.

Es besteht auch die Möglichkeit, dass Konformitätsbewertungsstellen aus einem Land außerhalb der EU von einer nationalen Behörde ermächtigt werden, dieselbe Arbeit wie eine notifizierte Stelle in der EU auszuführen, sofern sie dieselben in der Verordnung festgelegten Anforderungen einhalten.

Flexibilität für die Mitgliedstaaten

Der Text bezüglich der Benennung nationaler zuständiger Behörden wurde geändert, um den EU-Ländern mehr Flexibilität bei der Organisation dieser Behörden entsprechend ihren Bedürfnissen zu geben, solange die Grundsätze der Objektivität und Unparteilichkeit gewahrt bleiben.

Die französische Ratspräsidentschaft schlägt vor, die Bestimmungen über die Art und Weise, wie die EU-Länder die Kommission über den Benennungsprozess informieren sollen, weniger präskriptiv zu gestalten.

Der Teil, der die angemessene Ausstattung der zuständigen Behörden vorschreibt, wurde ebenfalls weniger verbindlich gestaltet. So wurde die Zeitspanne für die Berichterstattung über den Stand der Mittel der nationalen Behörden verkürzt.

Hochrisiko-Datenbank und Berichterstattung

Der Artikel über die EU-Datenbank für KI-Hochrisikosysteme deckt nun auch die Systeme ab, die im Rahmen eines regulatorischen Sandkastens unter realen Bedingungen getestet wurden, und schreibt vor, dass der „perspektivische Anbieter“ sie in die Datenbank aufnehmen muss.

Außerdem wird in einem neuen Absatz darauf hingewiesen, dass die Informationen in der EU-Datenbank über bereits auf dem Markt befindliche Hochrisiko-Systeme für die Öffentlichkeit zugänglich sein sollten.

Bei Systemen, die in einem regulatorischen Sandkasten getestet werden, werden die Informationen nicht veröffentlicht, es sei denn, der Anbieter stimmt dem zu. Der Text stellt klar, dass die EU-Datenbank keine personenbezogenen Daten enthalten wird.

Der Artikel zur Überwachung von bereits auf dem Markt eingeführten Systemen wurde dahingehend präzisiert, dass er nur für Hochrisiko-Systeme gilt. Den Anbietern wird mehr Flexibilität bei der Erhebung, Dokumentation und Analyse der für die Konformitätsbewertung erforderlichen Daten eingeräumt.

Die Fehlfunktion von Hochrisiko-Systemen wurde von der Meldepflicht für ernsthafte Zwischenfälle ausgenommen. Gleichzeitig erweitert der Text die Möglichkeit, diese Meldepflichten auf Finanzinstitute auszudehnen, die zu einem späteren Zeitpunkt in den Anwendungsbereich der Hochrisiko-Systeme aufgenommen werden könnten.

[Bearbeitet von Nathalie Weatherald]

Subscribe to our newsletters

Subscribe