Debatte um „risikoreiche“ KI: Von der Leyen verspricht angemessene Regeln

Kommissionschefin Ursula von der Leyen: "Wir stellen uns verbindliche Regeln vor, die für alle KI-Systeme gelten, die ein hohes Risiko für die Rechte oder die Sicherheit der Menschen darstellen." [Shutterstock]

Die Europäische Kommission muss bei der Einführung robuster Regeln für KI-Technologien (Künstliche Intelligenz) möglicherweise „weiter gehen und noch mehr tun“, da gewisse Technologien ein Risiko für die Grundrechte darstellen könnten. Das räumt Kommissionschefin Ursula von der Leyen in einem Brief an EU-Parlamentsabgeordnete ein, der EURACTIV vorliegt.

Das Schreiben ist eine Reaktion auf einen Brief von 116 Abgeordneten des Europäischen Parlaments, in dem die Kommission aufgefordert wird, die Risiken für die Grundrechte, die durch bestimmte KI-Anwendungen entstehen, zu bekämpfen.

Von der Leyen versicherte den EU-Abgeordneten, dass die Exekutive diese Sorgen bei der Ausarbeitung kommender Gesetze berücksichtigen wird: „Ich möchte Ihnen versichern, dass die Kommission Ihre Bedenken bezüglich des Schutzes der Grundrechte sehr ernst nimmt,“ schreibt sie in ihrem auf den 29. März datierten Brief.

Die Kommissionspräsidentin verweist dabei auf kommende Gesetze, die die Kommission am 24. April einbringen will, und erklärt, dass diese darauf abzielen werden, derartige KI-Technologie zu fördern, „die transparent und vertrauenswürdig ist.“ Von der Leyen dazu: „Wir stellen uns verbindliche Regeln vor, die für alle KI-Systeme gelten, die ein hohes Risiko für die Rechte oder die Sicherheit der Menschen darstellen. Bei Anwendungen, die mit den Grundrechten schlicht unvereinbar wären, müssen wir möglicherweise noch weiter gehen und noch mehr tun.“

Kommission: Risikoreiche künstliche Intelligenz soll 'zertifiziert, getestet und kontrolliert' werden

Künstliche Intelligenz-Technologien, die ein hohes Missbrauchsrisiko bergen, das zu einer Aushöhlung der Grundrechte führen könnte, werden einer Reihe neuer Anforderungen unterworfen, teilte die Europäische Kommission am Mittwoch, den 19. Februar, mit.

Diese angekündigten Folgemaßnahmen der Kommission zu ihrem „Weißbuch über Künstliche Intelligenz“ aus dem vergangenen Jahr sollen detailliert beschreiben, wie „risikoreiche“ Anwendungen auf EU-Ebene reguliert werden können. Die 2020 vorgestellte Initiative legt den Grundstein für neue Regeln für KI-Technologien, die als „hochriskant“ eingestuft werden, sowie für Technologien, die in „kritischen Wirtschaftssektoren“ eingesetzt werden, darunter im Gesundheitswesen, im Verkehr, bei der Polizei, der Personalbeschaffung und im Rechtssystem.

Wie eng muss der Rahmen gefasst sein?

Der stellvertretende Direktor der Generaldirektion Connect der Europäischen Kommission, Khalil Rouhana, sprach vergangene Woche vor dem Sonderausschuss für Künstliche Intelligenz des Europäischen Parlaments und merkte dabei bereits an, dass die am 24. April zu präsentierenden Maßnahmen genaue Definitionen für „risikoreiche“ KI festlegen würden.

Der Ansatz birgt jedoch die Gefahr, die EU-Staaten zu spalten: Einige Akteure, beispielsweise Deutschland, fordern ein breiteres Spektrum an Technologien, die als „risikoreich“ eingestuft werden sollten.

Auf der anderen Seite der Debatte haben im vergangenen Jahr 14 EU-Länder ihre Position zur zukünftigen Regulierung von Künstlicher Intelligenz dargelegt und die Europäische Kommission aufgefordert, eher einen „soften Ansatz“ zu verfolgen.

Im Papier, das von Dänemark initiiert und von den Digitalministerien anderer EU-Tech-Schwergewichte wie Frankreich, Finnland und Estland unterzeichnet wurde, heißt es: „Wir sollten uns Soft-Law-Lösungen – wie Selbstregulierung, freiwillige Kennzeichnung und andere freiwillige Praktiken – sowie robuster Standardisierungsprozesse als Ergänzung zur bestehenden Gesetzgebung zuwenden.“

Dies würde sicherstellen, „dass wesentliche Sicherheitsstandards eingehalten werden.“

[Bearbeitet von Benjamin Fox und Tim Steins]

Europäische KI-Regulierung durch WTO-Deal in Gefahr?

Die Versuche der EU, Künstliche Intelligenz zu regulieren, könnten in Zukunft auf neue Herausforderungen stoßen. Diese ergeben sich aus einem Abkommen zum E-Commerce auf Ebene der Welthandelsorganisation (WTO).

"Digitale Dekade": Kommission stellt Ziele für europäische Datensouveränität vor

Die Europäische Kommission legt heute eine Reihe von Digital-Zielen für das Jahr 2030 vor. Diese sollen dem Block helfen, neue Technologien für die Datenverarbeitung zu schaffen. Die entsprechenden Dokumente konnte EURACTIV.com bereits einsehen.

Vestager fordert "besonders hohe" Standards für künstliche Intelligenz

Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, forderte die für die Digitalpolitik zuständige EU-Kommissarin Margrethe Vestager.

Subscribe to our newsletters

Subscribe
UNTERSTÜTZEN