Kommission: Risikoreiche künstliche Intelligenz soll ‚zertifiziert, getestet und kontrolliert‘ werden

epa08227850 European Commission Vice-President in charge of 'Europe fit for the Digital Age', Margrethe Vestager (L) and European Commissioner for Internal Market and Services, Thierry Breton (R) give a press conference on a new strategy on Europe?s Digital Future at European Commission in Brussels, Belgium, 19 February 2020. EPA-EFE/OLIVIER HOSLET [EPA-EFE/OLIVIER HOSLET]

Künstliche Intelligenz-Technologien, die ein hohes Missbrauchsrisiko bergen, das zu einer Aushöhlung der Grundrechte führen könnte, werden einer Reihe neuer Anforderungen unterworfen, teilte die Europäische Kommission am Mittwoch, den 19. Februar, mit.

Als Teil des Weißbuchs der Exekutive zur künstlichen Intelligenz wurde eine Reihe von „risikoreichen“ Technologien für die künftige Überwachung vorgesehen, darunter auch solche in „kritischen Sektoren“ und solche, die als „kritisch“ angesehen werden.

Zu den kritischen Sektoren gehören das Gesundheitswesen, der Transport, die Polizei, die Rekrutierung und das Rechtssystem, während zu den Technologien mit kritischem Nutzen solche Technologien gehören, die ein Risiko für Tod, Beschädigung, Verletzung oder rechtliche Auswirkungen haben.

Technologien der Künstlichen Intelligenz, die unter diese beiden Kategorien fallen, müssen sich an strenge Regeln halten, die auch Konformitätsprüfungen und Kontrollen umfassen könnten, teilte die Kommission am Mittwoch mit.

Sollten bestimmte Technologien diese Anforderungen nicht erfüllen, könnten Sanktionen verhängt werden. Solche „risikoreichen“ Technologien sollten laut Kommissionsdokumenten auch „unter menschliche Kontrolle“ gestellt werden.

Ein weiterer Bereich, in dem sich die Kommission um eine bessere Überwachung bemühen wird, ist die Verwendung potenziell verzerrter Datensätze, die sich negativ auf demographische Minderheiten auswirken können.

Die Digitalstrategie der Kommission: Mehr Wettbewerb, weniger Emissionen

In ihrer Digitalstrategie hat sich die EU-Kommission verpflichtet, „Technologie, die für die Menschen arbeitet“, zu fördern: die digitalen Fähigkeiten der europäischen BürgerInnen und Unternehmen soll erhöht, die Marktmacht der Technologie-Giganten eingeschränkt und das Nachhaltigkeitspotenzial der IKT erschlossen werden.

In diesem Bereich hat die europäische Exekutive Pläne umrissen, um sicherzustellen, dass unvoreingenommene Datensätze in Technologien der künstlichen Intelligenz verwendet werden, um die Diskriminierung unterrepräsentierter Bevölkerungsgruppen in algorithmischen Prozessen zu vermeiden.

Die Kommission hat es jedoch versäumt, außerhalb der EU hergestellte Technologien in bestimmten autoritären Regimen als notwendigerweise „risikoreich“ zu identifizieren.

Auf Anfrage von EURACTIV erklärte Binnenmarktkommissar Thierry Breton am Mittwoch zu diesem Thema, dass die Hersteller gezwungen sein könnten, „Algorithmen vor Ort in Europa durch europäische Daten umzuschulen“.

„Wir könnten dazu bereit sein, wenn wir glauben, dass es für unsere Bedürfnisse und unsere Sicherheit angemessen ist“, fügte Breton hinzu.

Kommissionspräsidentin Ursula von der Leyen lobte die bisherigen Anstrengungen Europas im Bereich der künstlichen Intelligenz und sagte, dass solche Technologien in einer Reihe von Sektoren, darunter im Gesundheitswesen, in der Landwirtschaft und im Energiesektor, von lebenswichtigem Nutzen sein können. Sie seien auch geeignet, Europa bei der Erreichung nachhaltiger Ziele zu unterstützen.

Vestager fordert "besonders hohe" Standards für künstliche Intelligenz

Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, forderte die für die Digitalpolitik zuständige EU-Kommissarin Margrethe Vestager.

Bewertung der Konformität

Sie wies jedoch auch darauf hin, wie wichtig es sei, dass bestimmte KI-Technologien spezifische Standards erfüllen, um für die europäischen Bürger von Nutzen zu sein. „Risikoreiche KI-Technologien müssen getestet und zertifiziert werden, bevor sie auf den Markt kommen“, betonte von der Leyen.

Auf dieser Grundlage wird die Kommission eine „objektive, vorhergehende Konformitätsbewertung“ durchführen, um sicherzustellen, dass die KI-Systeme technisch robust, genau und vertrauenswürdig sind.

„Solche Systeme müssen in verantwortungsvoller Weise und unter Berücksichtigung der Risiken, die sie möglicherweise erzeugen, entwickelt werden. Ihre Entwicklung und Funktionsweise muss gewährleisten, dass sich KI-Systeme so zuverlässig verhalten, wie es beabsichtigt ist“, heißt es im Weißbuch, das bis zum 19. Mai für die öffentliche Konsultation zur Verfügung steht.

Eine solche Konformitätsbewertung könnte Verfahren zur Prüfung, Inspektion und Zertifizierung umfassen. Wesentlich ist ferner, dass eine solche Bewertung „auch die Überprüfung der Algorithmen und der in der Entwicklungsphase verwendeten Datensätze umfassen könnte“, so die Kommission.

Die geschäftsführende Vizepräsidentin und EU-Kommissarin für Digitales, Margrethe Vestager, sagte am Mittwoch, dass in Zukunft geprüft werden soll, ob dieser Ansatz effektiv ist oder nicht.

MEP: Datenschutz kann die Entwicklung künstlicher Intelligenz einschränken

Im Interview spricht die griechische Parlamentsabgeordnete und Digitalexpertin Eva Kaili über die Vor- und Nachteile von striktem Datenschutz, künstlicher Intelligenz und Kryptowährungen.

Gesichtserkennung

An anderer Stelle des Weißbuchs zur künstlichen Intelligenz hielt sich die Kommission mit der Einführung strenger Maßnahmen gegen Gesichtserkennungstechnologien jedoch zurück. Eine durchgesickerte Version des Dokuments hatte zuvor die Idee eines Moratoriums für Gesichtserkennungssoftwares in Umlauf gebracht.

Die Exekutive plant nun jedoch, „eine EU-weite Debatte über den Einsatz von biometrischer Fernidentifizierung“ zu starten, zu der auch Gesichtserkennungstechnologien gehören.

Am Mittwoch stellte Vestager fest, dass Gesichtserkennungstechnologien „in einigen Fällen harmlos“ seien. Dennoch sei eine breitere Konsultation erforderlich, um zu ermitteln, inwieweit die biometrische Fernidentifizierung als Teil der KI-Technologien erlaubt werden sollte.

Die Kommission hob auch die Tatsache hervor, dass nach den geltenden EU-Datenschutzvorschriften die Verarbeitung biometrischer Daten zum Zwecke der Identifizierung von Personen verboten ist, es sei denn, bestimmte Bedingungen im Hinblick auf die nationale Sicherheit oder das öffentliche Interesse sind erfüllt.

Artikel 6 der Allgemeinen Datenschutzverordnung der EU legt die Bedingungen fest, unter denen personenbezogene Daten rechtmäßig verarbeitet werden können, wobei eine solche Voraussetzung die ausdrückliche Zustimmung der betroffenen Person ist. Die Verarbeitung biometrischer Daten ist in Artikel 4 (14) der Verordnung geregelt.

Vestager: Automatische Gesichtserkennung verstößt gegen EU-Datenschutzrecht

Laut den strikten Datenschutzregelungen der EU dürfte die automatische Identifizierung durch Gesichtserkennungstechnologie illegal sein, betonte die für Digitalpolitik zuständige Vizepräsidentin der Kommission, Margrethe Vestager.

In den letzten Monaten haben die EU-Mitgliedsstaaten Zukunftspläne auf dem Gebiet der Gesichtserkennungstechnologien entworfen.

Deutschland will die automatische Gesichtserkennung an 134 Bahnhöfen und 14 Flughäfen einführen. Frankreich hingegen plant die Schaffung eines gesetzlichen Rahmens, der die Einbettung von Videoüberwachungssystemen mit Gesichtserkennungstechnologien erlaubt.

Rechtsgruppen haben als Reaktion auf die Ankündigung der Kommission vom Mittwoch schärfere Maßnahmen gegen Gesichtserkennungstechnologien für die Zukunft gefordert.

„Es ist von größter Bedeutung und Dringlichkeit, dass die EU den Einsatz von Massenüberwachungs- und Identifizierungstechnologien verhindert, ohne ihre Auswirkungen auf die Menschen und ihre Rechte vollständig zu verstehen und ohne sicherzustellen, dass diese Systeme vollständig mit den Gesetzen zum Datenschutz und zum Schutz der Privatsphäre sowie mit allen anderen Grundrechten in Einklang stehen“, betonte Diego Naranjo, Leiter der Abteilung Politik bei European Digital Rights (EDRi).

LEAK: Kommission erwägt Verbot der Gesichtserkennung im KI-"Weißbuch"

Die Europäische Kommission erwägt Maßnahmen zur Verhängung eines vorübergehenden Verbots von Gesichtserkennungstechnologien, die sowohl von öffentlichen als auch privaten Akteuren eingesetzt werden, so der Entwurf eines Weißbuchs über künstliche Intelligenz, das von EURACTIV eingesehen wurde.

[Bearbeitet von Zoran Radosavljevic und Britta Weppner]

Ausweitung der Gesichtserkennung: Bündnis aus NGOs und Politik fordert Verbot

Laut Medienberichten plant Innenminister Seehofer einen massiven Ausbau von automatischer Gesichtserkennung. Ein Bündnis aus Zivilgesellschaft und Politik fordert jetzt ein Verbot der Überwachungs-Methode.  

Subscribe to our newsletters

Subscribe

Wissen was in Europas Hauptstädten passiert - abonnieren Sie jetzt unseren neuen 10 Uhr Newsletter.