Geleakte KI-Pläne: Kommission will „anlasslose Überwachung“ verbieten

Das Überwachungsverbot soll allerdings nicht gelten, sofern die Maßnahmen "zum Schutz der öffentlichen Sicherheit" ergriffen werden. [Shutterstock]

Die Europäische Kommission will versuchen, gewisse KI-Systeme („Künstliche Intelligenz“) zu verbieten, die für „anlasslose Überwachungsmaßnahmen“ eingesetzt werden können. Dies ist Teil neuer Regelungen, die kommende Woche vorgelegt werden sollen.

Als Teil des Verordnungsentwurfs über ein „europäisches Konzept für künstliche Intelligenz“, den EURACTIV einsehen konnte, schlägt die EU-Exekutive vor, KI-Technologien zu verbieten, die für eine „anlass- und wahllose Überwachung verwendet werden; die pauschal und ohne Differenzierung auf alle Personen angewendet werden.“

Im Text wird präzisiert, man beziehe sich dabei auf Methoden, die die „Überwachung und Verfolgung von natürlichen Personen in digitalen oder physischen Umgebungen sowie die automatisierte Aggregation und Analyse von personenbezogenen Daten aus unterschiedlichen Quellen“ ermöglichen.

Kommission: Risikoreiche künstliche Intelligenz soll 'zertifiziert, getestet und kontrolliert' werden

Künstliche Intelligenz-Technologien, die ein hohes Missbrauchsrisiko bergen, das zu einer Aushöhlung der Grundrechte führen könnte, werden einer Reihe neuer Anforderungen unterworfen, teilte die Europäische Kommission am Mittwoch, den 19. Februar, mit.

Darüber hinaus sieht die Kommission Verbote für den Einsatz von KI vor, wenn diese gegen die Werte der Union verstoßen oder die Menschenrechte verletzen könnten. Dazu gehören KI-Systeme, die menschliches Verhalten manipulieren, sowie „prädiktive KI-Systeme“, die auf Sicherheitslücken abzielen.

Geldbußen für Verstöße gegen diese Verbote könnten demnach bis zu vier Prozent des weltweiten Jahresumsatzes eines Unternehmens betragen.

Einschränkungen

Der Entwurf, über den am Dienstag zuerst das Magazin Politico berichtete, sieht allerdings vor, dass solche Verbote nicht für EU-Regierungen und Behörden gelten, sofern die Maßnahmen „zum Schutz der öffentlichen Sicherheit“ ergriffen werden. Das bedeutet also, dass EU-Regierungen in Zukunft den Einsatz von derartig übergriffigen KI-Lösungen mit „Sicherheitsgründen“ rechtfertigen könnten.

Der Entwurf verbietet des Weiteren die Praxis des „Social Scoring“ in KI-Anwendungen, eine Technologie, die vor allem durch Chinas zentralisiertes Sozialpunkte-System berühmt-berüchtigt wurde.

EuGH: Massenüberwachung nur in wenigen Ausnahmefällen rechtens

EU-Staaten dürfen die unterschiedslose Übertragung und Speicherung von Kommunikationsdaten nur dann vornehmen, wenn eine „ernsthafte Bedrohung der nationalen Sicherheit“ vorliegt, urteilte der EuGH. Ansonsten verstoße sie gegen diverse Rechtsgrundsätze.

Außerdem plant die Kommission laut Entwurf die Einrichtung eines „Europäischen Ausschusses für Künstliche Intelligenz“, der sich aus je einem oder einer Beauftragten der 27 EU-Länder, einem Kommissionsmitglied sowie dem Europäischen Datenschutzbeauftragten zusammensetzen würde.

Das Gremium soll die Aufgabe haben, „einschlägige Empfehlungen und Stellungnahmen an die Kommission in Bezug auf die Liste der verbotenen Praktiken im Bereich der Künstlichen Intelligenz und die Liste der KI-Systeme mit hohem Risiko abzugeben.“

Der Vorschlag, der am 21. April von der für Digitales zuständigen Vizepräsidentin der Kommission, Margrethe Vestager, vorgelegt werden soll, folgt auf das sogenannte Weißbuch der Kommission aus dem vergangenen Jahr. Deses hatte bereits die Grundlage für neue Regeln gegen KI-Technologien, die als „hochriskant“ eingestuft werden sollten, geliefert.

„Mehr tun“

Kürzlich hatte derweil EU-Kommissionspräsidentin Ursula von der Leyen in einem Brief an EU-Parlamentsabgeordnete eingeräumt, ihre Institution müsse bei der Einführung „robuster Regeln“ für KI-Technologie möglicherweise „weiter gehen und noch mehr tun“, da gewisse Technologien ein Risiko für die Grundrechte darstellen könnten.

Das Schreiben war eine Reaktion auf einen Brief von 116 Abgeordneten des Europäischen Parlaments, in dem die Kommission aufgefordert wird, die Risiken für die Grundrechte, die durch bestimmte KI-Anwendungen entstehen, zu bekämpfen.

[Hinweis: Dies ist eine gekürzte Übersetzung. Den Originaltext in voller Länge finden Sie hier. Bearbeitet von Zoran Radosavljevic und Tim Steins]

Debatte um "risikoreiche" KI: Von der Leyen verspricht angemessene Regeln

Die Europäische Kommission muss bei der Einführung robuster Regeln für KI-Technologien möglicherweise „weiter gehen und noch mehr tun“. Das räumt Kommissionschefin Ursula von der Leyen in einem Brief an EU-Parlamentsabgeordnete ein.

Vestager fordert "besonders hohe" Standards für künstliche Intelligenz

Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, forderte die für die Digitalpolitik zuständige EU-Kommissarin Margrethe Vestager.

Jourová: EU-Daten dürfen nicht unter US-Massenüberwachung fallen

Die EU verlangt eine „uneingeschränkte Garantie“, dass personenbezogene Daten, die aus der EU an die USA übermittelt werden, nicht der „Massenüberwachung“ dort unterliegen, so EU-Kommissarin Věra Jourová.

Subscribe to our newsletters

Subscribe
UNTERSTÜTZEN