EU will „weltweit führend“ beim Thema KI werden

Die Kommissionsmitglieder Margrethe Vestager und Thierry Breton während einer Pressekonferenz über den EU-Ansatz zur Künstlichen Intelligenz. Brüssel, am 21. April 2021. [EPA-EFE/OLIVIER HOSLET / POOL]

Die Europäische Kommission hat am Mittwoch ihr neues KI-Paket vorgestellt, in dem sie ihre Ambitionen darlegt, Europa zu einem „weltweit führenden“ Akteur in diesem Bereich zu machen.

Der Vorschlag der Kommission ist vor allem darauf ausgerichtet, das allgemeine Vertrauen in Künstliche Intelligenz (KI) zu stärken. Konkret wird nicht weniger vorgeschlagen, als der erste EU-Rechtsrahmen, der KI-Anwendungen auf europäischer Ebene regeln soll. Darüber hinaus soll ein „koordinierter Plan“ mit den nationalen Regierungen auf den Weg gebracht werden, um Investitionen in Kompetenzen und Infrastruktur zu fördern.

„Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist,“ sagte Margrethe Vestager, die für Digitalpolitik zuständige Vizepräsidentin der EU-Kommission.

Kommission: Risikoreiche künstliche Intelligenz soll 'zertifiziert, getestet und kontrolliert' werden

Künstliche Intelligenz-Technologien, die ein hohes Missbrauchsrisiko bergen, das zu einer Aushöhlung der Grundrechte führen könnte, werden einer Reihe neuer Anforderungen unterworfen, teilte die Europäische Kommission am Mittwoch, den 19. Februar, mit.

Entsprechend der sogenannten „Risikopyramide“ dürften die meisten KI-Anwendungen demnach keine oder nur geringe Risiken darstellen – während „risikoreiche“ oder gar „schädliche“ Einsatzgebiete streng reguliert werden sollen.

Die grundlegendste Anforderung ist demnach Transparenz: Um das Risiko von Manipulationen zu vermeiden, müsse den Nutzerinnen und Nutzern klar sein, dass sie mit einer „Maschine“ im weitesten Sinne (beispielsweise Bots) oder einem maschinell entwickelten Produkt (z.B. Deep Fake) interagieren. Außerdem müsse deutlich gemacht werden, wenn KI-gestützte Systeme eingesetzt werden, um Emotionen der User zu erkennen.

Der Verordnungsentwurf enthält eine Reihe von Verpflichtungen für KI-Anwendungen, die als „riskant“ eingestuft werden, da sie direkte Auswirkungen auf das persönliche oder berufliche Leben einer Person haben könnten (z.B. Risikobewertung von Hypotheken oder Einstellungsverfahren). In diesen Fällen müsste die Organisation, die KI einsetzt, eine „hohe Datenqualität“, eine detaillierte Dokumentation, die die Einhaltung der bestehenden Vorschriften belegt, Transparenz und menschliche Aufsicht über den Prozess sowie ein hohes Maß an Vorsicht und Cyber-Sicherheit gewährleisten.

Die Kommission schlägt außerdem vor, bestimmte KI-Anwendungen zu verbieten, die als unvereinbar mit den Werten der EU angesehen werden. Dazu gehören KI-Systeme, die grundsätzlich darauf abzielen, Schaden zuzufügen oder menschliches Verhalten zu manipulieren. Derartiges wird als „inakzeptables Risiko“ angesehen. Ebenso werden „Scoring-Systeme nach chinesischem Vorbild“ verboten, versicherte ein hoher Kommissionsbeamter.

Vestager fordert "besonders hohe" Standards für künstliche Intelligenz

Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, forderte die für die Digitalpolitik zuständige EU-Kommissarin Margrethe Vestager.

Seitens der zuständigen Verbände hat der Vorschlag bereits Reaktionen hervorgerufen: Der Europäische Verbraucherverband BEUC kritisierte, dass der Vorschlag im Hinblick auf den Verbraucherschutz schwach sei und sich lediglich auf eine „Selbsteinschätzung“ der Industrie stütze.

Im Gegensatz dazu wurde der Entwurf von der Lobbygruppe Business Software Alliance (BSA) begrüßt, die anmerkte, dass „selbst in Fällen, in denen der Einsatz von KI erhebliche Risiken mit sich bringen kann, angemessene Schutzmaßnahmen vorhanden sind, um den Nutzen zu maximieren“.

Die Generaldirektorin von DigitalEurope, Cecilia Bonefeld-Dahl, warnte derweil, dass „die Einbeziehung von KI-Software in das EU-Rahmenwerk zur Produkt-Compliance zu einer übermäßigen Belastung für viele Anbieter führen könnte.“

Der umstrittenste Teil des Vorschlags dürfte die biometrische Identifizierung im öffentlichen Raum sein, die den Strafverfolgungsbehörden nur in ganz bestimmten Fällen und nach vorheriger Genehmigung durch die Justizbehörden erlaubt sein soll. Zu diesen Ausnahmen gehören Entführungen, Terroranschläge und die Identifizierung von Straftätern.

MEPs kritisieren Pläne der EU-Staaten für polizeiliche Gesichtserkennungsdatenbank

Die EU-Parlamentsabgeordneten im Ausschuss für bürgerliche Freiheiten (LIBE) haben Pläne kritisiert, eine EU-weite Gesichtserkennungsdatenbank zur Nutzung durch die Polizeibehörden einzurichten. Sie wiesen auf den möglichen Missbrauch von Daten sowie die Wahrscheinlichkeit von „Fehlalarmen“ hin.

Die Grünen/EFA-Fraktion im Europäischen Parlament ist einer der lautstarksten Gegner jeglicher Form von Gesichtserkennung: Laut Patrick Breyer, dem MEP der deutschen Piratenpartei, „würde der Vorschlag der Europäischen Kommission den hochriskanten Einsatz von automatischer Gesichtserkennung im öffentlichen Raum auf die gesamte Europäische Union ausweiten – entgegen dem Willen der Mehrheit unserer Bevölkerung.“

Der Vorschlag wurde von Dragoş Tudorache von der liberalen Fraktion Renew Europe (und dem Vorsitzenden des Sonderausschusses für Künstliche Intelligenz in einem digitalen Zeitalter, AIDA), hingegen begrüßt.

Tudorache betonte, dass der Entwurf „klar und eindeutig auf den Schutz der europäischen Bürger und ihrer Rechte ausgerichtet ist und eine dringend benötigte erste Klarheit darüber schafft, was in Sachen Künstlicher Intelligenz erlaubt ist und was nicht.“

[Bearbeitet von Benjamin Fox]

Geleakte KI-Pläne: Kommission will "anlasslose Überwachung" verbieten

Die Europäische Kommission will versuchen, KI-Systeme zu verbieten, die für „anlasslose Überwachungsmaßnahmen“ eingesetzt werden können. Dies ist Teil neuer Regelungen, die kommende Woche vorgelegt werden sollen.

"Digitale Dekade": Kommission stellt Ziele für europäische Datensouveränität vor

Die Europäische Kommission legt heute eine Reihe von Digital-Zielen für das Jahr 2030 vor. Diese sollen dem Block helfen, neue Technologien für die Datenverarbeitung zu schaffen. Die entsprechenden Dokumente konnte EURACTIV.com bereits einsehen.

Debatte um "risikoreiche" KI: Von der Leyen verspricht angemessene Regeln

Die Europäische Kommission muss bei der Einführung robuster Regeln für KI-Technologien möglicherweise „weiter gehen und noch mehr tun“. Das räumt Kommissionschefin Ursula von der Leyen in einem Brief an EU-Parlamentsabgeordnete ein.

Subscribe to our newsletters

Subscribe