LEAK: Kommission erwägt Verbot der Gesichtserkennung im KI-„Weißbuch“

Ein Demonstrant trägt eine vergrößerte Gesichtserkennungs-Kamera-Attrappe vor dem Eingangsbereich am Bahnhof Berlin-Südkreuz in Berlin, Deutschland, 01. August 2017. [EPA-EFE/CARSTEN KOALL]

Die Europäische Kommission erwägt Maßnahmen zur Verhängung eines vorübergehenden Verbots von Gesichtserkennungstechnologien, die sowohl von öffentlichen als auch privaten Akteuren eingesetzt werden, so der Entwurf eines Weißbuchs über künstliche Intelligenz, das von EURACTIV eingesehen wurde.

Die Pläne könnten, wenn sie umgesetzt werden, die laufenden KI-Projekte in einigen EU-Ländern aus der Bahn werfen, darunter Deutschlands Wunsch, die automatische Gesichtserkennung an 134 Bahnhöfen und 14 Flughäfen einzuführen. Auch Frankreich plant die Schaffung eines rechtlichen Rahmens, der die Einbettung von Videoüberwachungssystemen in Gesichtserkennungstechnologien erlaubt.

In dem Kommissionspapier, das einen Einblick in Vorschläge für ein europäisches Konzept für die künstliche Intelligenz gibt, heißt es, dass ein künftiger Rechtsrahmen „ein zeitlich begrenztes Verbot des Einsatzes von Gesichtserkennungstechnologie in öffentlichen Räumen enthalten könnte“.

Das Dokument fügt hinzu, dass „der Einsatz von Gesichtserkennungstechnologie durch private oder öffentliche Akteure im öffentlichen Raum für einen bestimmten Zeitraum (zum Beispiel drei bis fünf Jahre) verboten wäre, in dem eine solide Methodik zur Bewertung der Auswirkungen dieser Technologie und mögliche Risikomanagementmaßnahmen ermittelt und entwickelt werden könnten“.

Ethische künstliche Intelligenz? Experten sehen viele "kritische" Bereiche

Eine Expertengruppe der EU-Kommission hat in ihrem Bericht über „Ethik und künstliche Intelligenz“ auf diverse kritische Fragen hingewiesen.

Fünf regulatorische Optionen für die KI

Ganz allgemein enthält der Entwurf des Weißbuchs, dessen fertige Fassung die Kommission gegen Ende Februar veröffentlichen soll, fünf Regelungsoptionen für die künstliche Intelligenz im gesamten Block.

Die verschiedenen Regulierungsbereiche, die die Kommission in dem Papier berücksichtigt, sind:

  • Freiwillige Kennzeichnung
  • Sektorale Anforderungen an die öffentliche Verwaltung und Gesichtserkennung
  • Obligatorische risikobasierte Anforderungen für Anwendungen mit hohem Risiko
  • Sicherheit und Haftung
  • Verwaltung

Ein Rahmen für die freiwillige Kennzeichnung könnte aus einem Rechtsinstrument bestehen, mit dem die Entwickler „auf freiwilliger Basis die Anforderungen an eine ethische und vertrauenswürdige künstliche Intelligenz erfüllen können“. Sollte die Einhaltung der Vorschriften in diesem Bereich gewährleistet sein, würde ein „Etikett“ ethischer oder vertrauenswürdiger künstlicher Intelligenz mit verbindlichen Bedingungen vergeben werden.

Option zwei konzentriert sich auf einen spezifischen Bereich von öffentlichem Interesse – die Nutzung künstlicher Intelligenz durch Behörden – sowie auf den Einsatz von Gesichtserkennungstechnologien im Allgemeinen. Im ersteren Bereich könnte die EU dem Papier zufolge einen Ansatz verfolgen, der mit dem von Kanada in seiner Richtlinie über die automatische Entscheidungsfindung vertretenen Ansatz vergleichbar ist, der Mindeststandards für Regierungsstellen festlegt, die ein automatisiertes Entscheidungssystem einsetzen wollen.

Ausweitung der Gesichtserkennung: Bündnis aus NGOs und Politik fordert Verbot

Laut Medienberichten plant Innenminister Seehofer einen massiven Ausbau von automatischer Gesichtserkennung. Ein Bündnis aus Zivilgesellschaft und Politik fordert jetzt ein Verbot der Überwachungs-Methode.  

Was die Gesichtserkennung betrifft, so hebt das Kommissionsdokument Bestimmungen aus der allgemeinen Datenschutzverordnung der EU hervor, die den Bürgern „das Recht geben, nicht Gegenstand einer Entscheidung zu sein, die ausschließlich auf einer automatisierten Verarbeitung, einschließlich der Erstellung von Profilen, beruht“.

In dem dritten Bereich, den die Kommission derzeit für eine Regulierung vorbereitet, würden rechtsverbindliche Instrumente nur „für risikoreiche Anwendungen künstlicher Intelligenz“ gelten. In dem Papier heißt es: „Dieser risikobasierte Ansatz würde sich auf Bereiche konzentrieren, in denen die Öffentlichkeit gefährdet ist oder ein wichtiges rechtliches Interesse auf dem Spiel steht“.

Bestimmte Sektoren, die als hohes Risiko betrachtet werden könnten, sind laut dem Dokument das Gesundheitswesen, der Verkehr, die Polizei und die Justiz. Die Kommission fügt hinzu, dass ein Antrag, um als „risikoreich“ eingestuft zu werden, eines von zwei Kriterien erfüllen muss: Er muss in den Anwendungsbereich eines Hochrisikosektors fallen oder potenzielle rechtliche Auswirkungen haben und „die Gefahr von Verletzungen, Tod oder erheblichen materiellen Schäden für den Einzelnen“ darstellen.

Option vier deckt Sicherheits- und Haftungsfragen ab, die sich im Rahmen der künftigen Entwicklung der künstlichen Intelligenz ergeben könnten, und schlägt vor, dass „gezielte Änderungen“ an den Sicherheits- und Haftungsvorschriften der EU vorgenommen werden könnten, unter anderem an der Richtlinie über die allgemeine Produktsicherheit, der Maschinenrichtlinie, der Richtlinie über Funkanlagen und der Produkthaftungsrichtlinie.

Digitalisierung 2020: Ein geopolitisches Programm

Ausgehend von einem turbulenten Jahr 2019, in dem sich mehrere Tech-Giganten dem Zorn der europäischen Regulierungsbehörden ausgesetzt sahen, werden die kommenden zwölf Monate im digitalen Bereich in Bezug auf die EU-Politik lebhaft sein.

Zu den Risiken, die derzeit in den bestehenden Rechtsvorschriften nicht abgedeckt sind, so das Dokument, gehören „die Risiken von Cyber-Bedrohungen, die Gefährdung der persönlichen Sicherheit, der Privatsphäre und des Schutzes personenbezogener Daten“, die als Teil möglicher künftiger Änderungen in Betracht gezogen werden können. 

Was die Haftung betrifft, so könnten „Anpassungen erforderlich sein, um die Verantwortung der Entwickler künstlicher Intelligenz zu klären und sie von der Verantwortung des Herstellers der Produkte zu unterscheiden“. Der Geltungsbereich der Rechtsvorschriften könnte dahingehend auch geändert werden, dass festgelegt wird, ob Systeme künstlicher Intelligenz als „Produkte“ zu betrachten sind.

In Bezug auf Option fünf, „Verwaltung“, betont die Kommission, dass ein wirksames Durchsetzungssystem von wesentlicher Bedeutung ist, welches ein starkes System der öffentlichen Aufsicht unter Einbeziehung der nationalen Behörden erfordert. Die Förderung der Zusammenarbeit zwischen diesen nationalen Behörden wäre notwendig, heißt es in dem Dokument.

Die wahrscheinlichsten Ansätze, die formell angenommen werden, sind eine Kombination der Optionen drei, vier und fünf.

„Die Kommission könnte eine Kombination aus einem horizontalen Instrument in Betracht ziehen, das die Anforderungen an Transparenz und Rechenschaftspflicht festlegt und auch den Governance-Rahmen abdeckt, ergänzt durch gezielte Änderungen der bestehenden EU-Rechtsvorschriften im Bereich Sicherheit und Haftung“, heißt es in dem Dokument.

KI und Roboter zum Schutz der EU-Außengrenzen?

Aktuell wird ein „intelligentes Kontrollsystem“ entwickelt, das unter anderem Gesichtsregungen analysiert. Damit sollen die EU-Grenzen sicherer werden.

Hintergrund

Die Veröffentlichung des Entwurfs des Weißbuchs der Kommission folgt auf eine Phase der öffentlichen Diskussion über den Umgang mit den künftigen Herausforderungen der künstlichen Intelligenz.   

In einem im Juni veröffentlichten Bericht der Hochrangigen Gruppe der Kommission für künstliche Intelligenz wird vorgeschlagen, dass die EU die Notwendigkeit einer neuen Verordnung zur „Gewährleistung eines angemessenen Schutzes vor nachteiligen Auswirkungen“ prüfen sollte, die Fragen der biometrischen Erkennung, des Einsatzes tödlicher autonomer Waffensysteme (LAWS), auf Kinderprofilen aufbauender künstlicher Intelligenz und die Auswirkungen, die künstliche Intelligenz auf die Grundrechte haben kann, einschließen könnte.

In Bezug auf die Gesichtserkennung gab es im vergangenen Jahr große Befürchtungen über die Anwendung der Technologie in Europa, wobei die schwedische Datenschutzbehörde einer Gemeinde eine Geldstrafe von 20.000 Euro auferlegte, weil sie die Gesichtserkennungstechnologie bei der Überwachung des Schulbesuchs von Schülern eingesetzt hatte. Die französische Datenschutzbehörde CNIL bezeichnete die Technologie als Verstoß gegen die GDPR-Zustimmungsregeln.

Altmaiers Cloud-Initiative und das Streben nach einer europäischen digitalen Souveränität

Im Oktober wird Bundeswirtschaftsminister Peter Altmaier detailliertere Pläne für die Etablierung einer wegweisenden europäischen Cloud-Initiative namens „Gaia-X“ vorlegen.

[Bearbeitet von Zoran Radosavljevic und Britta Weppner]

Subscribe to our newsletters

Subscribe
UNTERSTÜTZEN