KI und Roboter zum Schutz der EU-Außengrenzen?

13 Partnerinstitutionen in ganz Europa forschen an einem System der intelligenten Gesichtserkennung bei Grenzkontrollen. [andriano.cz/ Shutterstock]

In einem von der EU finanzierten Projekt wird aktuell ein „intelligentes Kontrollsystem“ entwickelt, um Drittstaatsangehörige, die die Außengrenzen der EU erreichen, besser und effizienter überprüfen zu können.

Das tragbare Grenzkontrollsystem iBorderCtrl umfasst eine Reihe von diversen Protokollen und Computerverfahren, die Gesichter scannen und „verdächtige“ Reaktionen von Reisenden erkennen sollen, beispielsweise wenn diese in Bezug auf ihre Einreisegründe lügen.

Das auf künstlicher Intelligenz basierende Screening-System wertet dafür bis zu 38 Gesichtsveränderungen aus, beispielsweise die Blickrichtung, Pupillenerweiterung, minimale Stimmveränderungen und andere für Menschen nicht wahrnehmbare „Mikrogestiken“.

iBorderCtrl wurde mit Mitteln aus dem Forschungs- und Innovationsprogramm Horizon 2020 der EU entwickelt und wird zwischen 13 Partnerinstitutionen in ganz Europa koordiniert.

Die Europäische Kommission beteiligt sich mit 4,5 Millionen Euro an der Entwicklung des neuen Instruments, das im September 2016 ins Leben gerufen wurde und von einem luxemburgischen Unternehmen namens European Dynamics verwaltet wird. Der Abschluss der Testphase ist für August 2019 geplant.

Im Kampf gegen die Killer-Roboter

Diese Woche werden die UN-Gespräche über die Entwicklung und Verbreitung autonomer, tödlicher Waffensysteme fortgesetzt.

Neben dem Ziel, die Kontrolle der Grenzen Europas zu verschärfen und zur Prävention von Kriminalität und Terrorismus beizutragen, soll das System laut Kommission auch den Verkehrsfluss an den Grenzen beschleunigen.

„Wir nutzen bestehende und bewährte ebenso wie neue Technologien, um es Grenzbeamten zu ermöglichen, die Genauigkeit und Effizienz der Grenzkontrollen zu erhöhen,“ erklärte der Projektkoordinator George Boultadakis von European Dynamics zum Start der Testphase.

„iBorderCtrl wird Daten sammeln, die über die Biometrie hinausgehen und somit zu echten „Markern“ für Täuschungsversuche werden,“ fügte er hinzu.

Testphase läuft schon

Das aktuell laufende Pilotprojekt besteht aus einem zweistufigen Verfahren auf freiwilliger Basis. In einem ersten Schritt absolvieren Menschen, die in die EU einreisen wollen, bei der Einreichung einer Online-Antragstellung zu Hause einen sogenannten „Pre-Screening-Test“. Bei diesem müssen sie verschiedene Dokumente hochladen, darunter das Bild aus ihrem Reisepass, ihr Visum und einen Finanznachweis.

Anschließend beantworten sie Fragen, die von einem computeranimierten Grenzschutzbeamten über ein Webcam-Interview gestellt werden. Die Antworten der Antragsteller werden dabei von einem an der Manchester Metropolitan University entwickelten „Täuschungs-Erkennungssystem“  auf KI-Basis analysiert.

„Die Digitalisierung geht an keinem spurlos vorbei“

Die Digitalisierung hat in der öffentlichen Debatte einen festen Platz eingenommen. Erhebliche Auswirkungen auf Wirtschaft und Arbeitswelt werden erwartet. Sind Deutschland und die EU gut vorbereitet? EURACTIV sprach mit Iris Plöger.

Kein Ersatz für menschliche Grenzschützer

Die Kommission hat bereits betont, das System werde jedoch nicht die menschlichen Grenzschutzbeamten ersetzen: „Grenzbeamte werden ein tragbares Gerät verwenden, um Informationen automatisch zu überprüfen und die während der Voruntersuchung aufgenommenen Gesichtsbilder mit Pässen und Fotos von früheren Grenzübergängen zu vergleichen.“

Die Ergebnisse werden an den Grenzkontrollstellen abgerufen, wo die Reisenden dann einer zweiten Kontrolle unterzogen werden.

„Nachdem die Dokumente des Reisenden neu bewertet und Fingerabdrücke, Handflächenvenenscans und Gesichtsabgleiche durchgeführt wurden, wird das vom Reisenden ausgehende potenzielle Risiko neu errechnet. Erst dann übernimmt ein Grenzschutzbeamter vom automatisierten System,“ so die Kommission weiter.

Auch Keeley Crockett von der Manchester Metropolitan University erklärt in einem Werbevideo für das System: „Es trifft keine vollautomatische Entscheidung. Es bietet lediglich einen errechneten Risikowert.“

Personen, die als „risikoarm“ eingestuft werden, würden dann nur einer kurzen Überprüfung ihrer Informationen für die Einreise unterzogen, während „risikoreichere Einreisende“ genauer kontrolliert werden.

Das Projekt wird aktuell in Ungarn, Griechenland und Lettland getestet.

Laut Projekt-Website gilt insbesondere ein insgesamt 175 Kilometer langer Grenzabschnitt zwischen Ungarn und Serbien als Hotspot, ebenso wie die Grenze zwischen Griechenland und Mazedonien. Das lettische Pilotprojekt umfasst derweil 31 Grenzübergänge (fünf Flughäfen, zehn Seehäfen, drei Eisenbahn- und 13 Straßen-Grenzübergänge).

Das Vereinigte Königreich, Deutschland, Polen, Spanien und Zypern haben bereits Interesse bekundet, sich nach der ersten Versuchsphase ebenfalls an dem Projekt zu beteiligen.

Genauigkeit und Verzerrung

Ein Mitglied des iBorderCtrl-Teams gab gegenüber der Fachzeitschrift New Scientist allerdings kürzlich zu, der digitale Grenzschutz habe in den ersten Tests eine Erfolgsrate von lediglich 76 Prozent vorweisen können. Das Team sei aber „ziemlich zuversichtlich“, diesen Wert bald auf 85 Prozent steigern zu können.

Dennoch weisen Kritiker darauf hin, dass es viele Faktoren gibt, die Fehler begünstigen könnten.

Bedenken hinsichtlich der Genauigkeit kommen beispielsweise auf, da die Teilnahme an den Tests freiwillig ist. Reisende, die jetzt bereit seien, mit den Behörden zusammenzuarbeiten, „wollen insbesondere ihre eigenen Grenzkontrollen beschleunigen,“ so Antoinette Rouvroy vom Forschungszentrum für Information, Recht und Gesellschaft (CRIDS).

Sie erläutert: „Unter solchen Umständen sehe ich nicht, wie verlässliche Daten erhoben werden können, um die Robustheit, Zuverlässigkeit oder Genauigkeit des Systems zu beurteilen.“ Das Verhalten der Teilnehmer, das schließlich als Grundlage für die Einführung der „Marker“ dienen soll, könnte somit recht weit von den späteren, realen Gegebenheiten abweichen.

„Oder sollen wir davon ausgehen, dass illegale Einwanderer und potenzielle Kriminelle sich heute freiwillig für die Tests zur automatischen Erkennung entscheiden? Das ist nicht sehr plausibel,“ fügt die Forscherin hinzu.

Braucht die EU neue Roboter-Gesetze?

Die Tech-Industrie und Verbraucherschützer sind sich uneins, ob die EU-Gesetzgebung über Produkthaftung auf Systeme künstlicher Intelligenz und Roboter ausgeweitet werden sollte.

In der Vergangenheit hatten Studien darüber hinaus gezeigt, dass Gesichtserkennungsalgorithmen scheinbar „voreingenommen“ sind und insbesondere Frauen und Minderheiten überproportional negativ betreffen.

Zum Beispiel hatten Gesichtserkennungsalgorithmen von IBM, Microsoft und Face++ allein bei der Erkennung des Geschlechts bis zu 35 Prozent höhere Fehlerquoten bei Frauen mit dunklerer Haut im Vergleich zu Männern mit heller Haut, so eine Anfang des Jahres veröffentlichte Studie.

„Bevor derartige KI-Systeme in einem solchen Tätigkeitsbereich eingesetzt werden, sollte eine sorgfältige Bewertung dieser unvermeidlichen Faktoren vorgenommen werden, die mit einem System zur Erkennung, Klassifizierung und zukunftsorientierten Bewertung von Personen und Verhaltensweisen immer verbunden sind,“ fordert Rouvroy.

Weitere Informationen

German Angst vor klugen Robotern

Die Künstliche Intelligenz ist in aller Munde. Sie bietet Chancen und Risiken. Unter den Deutschen dominiert einer aktuellen Umfrage zufolge die Skepsis.

Künstliche Intelligenz und europäische Werte

Die Debatte um Künstliche Intelligenz dreht sich nicht nur um technische Fragen, sondern auch um ethnische. In der EU trägt dazu wesentlich der EWSA bei, der Anfang der Woche ein "Stakeholder-Gipfel" zum Thema durchführte.

Deutschland ist mittelmäßig digitalisiert

Die EU-Kommission treibt die Digitalisierung voran. Mit dem DESI-Index bemisst sie, wie digital die einzelnen Mitgliedsländer schon sind. Deutschland liegt im Mittelfeld.

Subscribe to our newsletters

Subscribe