Künstliche Intelligenz – ein Fall für das Völkerrecht

Selbstlernender Roboter: Schickt er sich an, die Weltherrschaft zu übernehmen? [shutterstock/Phonlamai Photo]

Der Gedanke, verstärkt Roboter für uns arbeiten zu lassen, ist verlockend. Doch was, wenn die Maschinen irgendwann intelligenter und effektiver sind als die Menschen und sich anschicken, die Vorherrschaft zu übernehmen? Künstliche Intelligenz muss reguliert werden.

Systeme Künstlicher Intelligenz (KI) erfreuen sich sowohl bei privaten Unternehmen wie auch bei staatlichen Einrichtungen steigender Beliebtheit. Selbstlernende Maschinen können gigantische Datenmengen in atemberaubender Geschwindigkeit verarbeiten und auf dieser Basis zwischen mehreren Alternativen die beste auswählen. Hat die Maschine genügend qualitativ hochwertige Daten, kann sie beispielsweise helfen, medizinische Diagnosen zu verbessern, zwischen Investitionsoptionen zu unterscheiden oder Forschungsergebnisse miteinander zu verknüpfen.

Doch je weiter die Entwicklung der KI fortschreitet, desto mehr betrifft sie auch sensible Bereiche. Schon heute können KI-Systeme entwickelt werden, die beispielsweise Satellitenbilder analysieren und im Falle eines Militäreinsatzes die „optimalen Angriffsziele“ auswählen. Man könnte es so weit treiben, dass diese Ziele dann automatisch attackiert werden. Viele Militärstrategen wünschen sich derartige Lösungen, denn sie nehmen die Last der Entscheidung über Leben und Tod vom Menschen und machen den Einsatz dadurch wesentlich einfacher. Doch dürfen Roboter über Leben und Tod von Menschen entscheiden? Ist das nicht ein moralisches Problem, selbst wenn der Roboter mit einer gewissen Wahrscheinlichkeit sogar eine bessere Entscheidung trifft als jeder Kommandeur das könnte und so letztlich die Erreichung des militärischen Ziels insgesamt weniger zivile Opfer kostet?

Das Beispiel soll zeigen, dass KI viel mehr als nur eine Frage des technischen Fortschritts ist. Allerdings hat sich der technische Fortschritt in den letzten Jahren derart beschleunigt, dass es höchste Zeit wird, einen regulatorischen Rahmen zu entwickeln. Seit den frühen 2010er Jahren gibt es in der KI-Forschung eine enorme Dynamik, weil die Aktivitäten von Facebook, Google und Co. enorme Mengen strukturierter Daten liefern, mit denen KI-Systeme gefüttert werden können. Wohin diese Entwicklung ohne entsprechende Regulierung führen kann, deutet das Beispiel des Militäreinsatzes an.

EU-Kommission will 1,5 Milliarden Euro für Künstliche Intelligenz ausgeben

Die EU-Kommission will in den nächsten drei Jahren 1,5 Milliarden Euro in Forschung im Bereich der Künstlichen Intelligenz investieren. Kritiker monieren, China und die USA seien weiter.

Unter dem Titel „Das globale Ringen um die Zukunft der künstlichen Intelligenz“ haben jüngst Wissenschaftler der Berliner Stiftung Wissenschaft und Politik (SWP) eine Analyse herausgegeben, die sich mit genau dieser Frage befasst: Wie muss KI reguliert werden, damit die Maschine am Ende dem Menschen dient und nicht umgekehrt. Darin verdeutlichen die Autoren zunächst, dass ein globaler Regulierungsrahmen ideal wäre. Schließlich handelt es sich bei KI um eine globale Entwicklung: China hat bereits massive Investitionen angekündigt, um den Vorsprung der USA aufzuholen. Auch in Russland steht die Entwicklung der KI hoch auf der Agenda. Am Mittwoch zog die EU-Kommission nach und regte umfassende Investitionen an, die jene der Mitgliedsstaaten ergänzen sollen. Vor allem Frankreich und Deutschland haben bereits ambitionierte eigene Pläne am Start.

Als Anknüpfungspunkt für einen internationalen Regulierungsrahmen bringen die SWP-Wissenschaftler Marcel Dickow und Daniel Jacob die verschiedenen Normenordnungen des Völkerrechts ins Spiel. Schließlich seien verschiedene völkerrechtliche Normenordnungen unmittelbar berührt. Einige Beispiele:

Schon heute setzen die USA und Großbritannien KI-Systeme polizeilich ein. Sie erstellen auf Basis von Datenanalysen Prognosen, wann wo und von wem mit besonders hoher Wahrscheinlichkeit Verbrechen begangen werden. In den USA helfen die Systeme sogar bei Gericht das Strafmaß zu optimieren. In China wird an einem Ratingsystem gearbeitet, das das Verhalten der Bürger analysiert, auswertet und gegebenenfalls Sanktionen verhängt. Diese Entwicklungen berühren das Recht auf Gleichbehandlung und einen ordentlichen Gerichtsprozess – und damit universell verbriefte Menschenrechte.

Zudem ist das humanitäre Völkerrecht berührt, denn das Eingangsbeispiel ist keineswegs so fiktiv, wie es möglicherweise erscheint. Viele Staaten investieren massiv in die Entwicklung (teil-)automatischer Waffen. Die USA stehen bereits heute regelmäßig wegen tödlicher Drohnenangriffe in der Kritik. Das betrifft auch Deutschland, da viele tödliche US-Drohneneinsätze über die Relaisstation der Airbase im rheinland-pfälzischen Ramstein gesteuert. Im Rahmen der EU-Verteidigungsunion wird die Anschaffung einer so genannten Euro-Drohne vorbereitet.

Viele deutsche Kommunen profitieren nicht von Wifi4EU

Die EU verschenkt Wifi-Hotspots im Wert von 120 Millionen Euro. Doch in Deutschland mangelt es schon an der digitalen Infrastruktur.

Dass Maschinen über das Leben von Menschen entscheiden ist also weit mehr als Science Fiction. Doch schon die partielle Übertragung von Entscheidungen über Gewaltanwendung an Maschinen würde, so die SWP-Autoren, „in grundlegender Weise die Schutzmechanismen des humanitären Völkerrechts“ infrage stellen.

Ein drittes Beispiel ist die Macht der Unternehmen. Facebook, Amazon und andere Internetkonzerne nutzen KI, um umfassende Profile ihrer (potenziellen) Nutzer zu erstellen. Banken nutzen KI um die Kreditwürdigkeit ihrer Kunden zu beurteilen. Damit berührt KI auch den völkerrechtlich garantierten Schutz der Privatsphäre und das Diskriminierungsverbot. Im nationalstaatlichen Rahmen lässt sich das nicht regulatorisch einfangen, denn die meisten hier relevanten Unternehmen agieren transnational.

Folgt man der Argumentation von Dickow und Jacob, ergeben sich vor allem drei Regulierungsziele: Erstens braucht es Transparenz darüber, wer wie und zu welchem Zweck KI einsetzt. Zweitens muss sichergestellt werden, dass KI in sensiblen Bereichen menschlicher Kontrolle unterworfen bleibt. Und drittens müssen die Verantwortlichkeiten eindeutig geklärt werden – zwischen Mensch und Maschine sowie zwischen Hersteller und Anwender.

Alles in allem birgt KI neben allen Chancen also auch enorme Risiken. Die gute Nachricht: Es ist noch nicht zu spät für politische Reaktionen. Der vor wenigen Wochen verstorbene Starphysiker Steven Hawking sagte einmal, dass KI das Beste oder das Schlimmste sein kann, was die Menschheit jemals erfunden hat. Es kommt darauf an, was man daraus macht.

24 EU-Staaten unterzeichnen Vereinbarung über Künstliche Intelligenz

24 EU-Länder wollen einen „europäischen Ansatz“ für Künstliche Intelligenz erschaffen, um so mit amerikanischen und asiatischen Technologieriesen konkurrieren zu können.

In den letzten Monaten hat sich der Diskurs deutlich „ent-technologisiert“. So rückte beispielsweise der Europäische Wirtschafts- und Sozialausschuss (EWSA) in seiner Stellungnahme Sicherheit, Privatsphäre, Gleichheit, Wohlstand und ethische Fragen in den Mittelpunkt. Gewerkschaften befassen sich mit den Veränderungen der Arbeitswelt und den Folgen für die Arbeitnehmer. Die Vereinten Nationen verhandeln im Rahmen der „Convention on Certain Conventional Weapons“ über den Umgang mit autonomen Waffensystemen.

Auch der aktuelle Vorschlag der EU-Kommission geht über simple Technologieinvestitionen hinaus. Brüssel plant, bis Ende dieses Jahres Leitlinien zur Haftung und Transparenz der Algorithmen sowie zu anderen ethischen Problemen zu veröffentlichen. Die EU-Strategie betont ihren „mensch-zentrierten“ Ansatz bei der KI und stellt den Fokus auf „Ethik als Verkaufsargument“ in den Vordergrund. Das entspricht auch dem Anliegen der SWP-Wissenschaftler. Sie fordern insbesondere die deutsche Außenpolitik auf, international Einfluss auf die Ausgestaltung des reulatorischen Rahmens für KI zu nehmen.

Positionen

Andrus Ansip (EU-Kommissar für den digitalen Binnenmarkt): "Wie die Dampfmaschine oder der elektrische Strom in der Vergangenheit ändert KI unsere Welt grundlegend. Damit sind neue Herausforderungen verbunden, die wir in Europa gemeinsam meistern müssen, damit die Vorteile der KI allen Menschen zugutekommen können. So müssen wir bis Ende 2020 mindestens 20 Mrd. EUR investieren. Die Kommission trägt ihren Teil dazu bei: Mit unserem heutigen Konzept unterstützen wir Forscherinnen und Forscher bei der Entwicklung von KI-Technologien und ‑Anwendungen der nächsten Generation. Den Unternehmen wiederum helfen wir bei der Einführung und Anwendung."

Carl Martin Welcke (VDMA-Präsident): "Als ausgewogene Grundlage dazu bewertet der Maschinenbau die aktuelle Mitteilung zu Künstlicher Intelligenz in Europa, welche die EU-Kommission nun vorgestellt hat. "Um ein brauchbares Regelwerk für Künstliche Intelligenz aufzustellen, müssen wir international zusammenarbeiten. Deswegen begrüßen wir die Anstrengungen der Europäischen Kommission ausdrücklich."

Anna Christmann (MdB, Die Grünen): "Damit Deutschland und Europa mit Ländern wie den USA und China konkurrieren können, muss sich die Bundesregierung jetzt auf die Seite der Wissenschaftlerinnen und Wissenschaftler stellen und sie in ihrer Forderung für ein europäisches Forschungsinstitut für maschinelles Lernen unterstützen. Wenn wir weiter dringend benötigte Talente für Wissenschaft und Wirtschaft anziehen wollen, muss die Forschung zu künstlicher Intelligenz über die Landesgrenzen hinweg sichtbar sein."

Nadine Schön (MdB, CDU/CSU): "Der Umgang mit Künstlicher Intelligenz (KI) ist ein entscheidender Standortfaktor für die wirtschaftliche Wettbewerbsfähigkeit Europas in den nächsten Jahren. Um im Wettbewerb mit China und den USA nicht ins Hintertreffen zu geraten, ist es notwendig, dass die EU eine gemeinsame Strategie zum Umgang mit KI vorlegt und diese auch weiterhin intensiv verfolgt. Zugleich ist KI aber auch eine Herausforderung für Politik und Gesellschaft, die richtigen regulatorischen wie ethischen Standards für den Einsatz der Technologie zu finden."

Hintergrund

Mit den aktuellen Entwicklungen im Feld der künstlichen Intelligenz ist eine neue Stufe im Prozess der Digitalisierung erreicht. Künstliche Intelligenz erlaubt es, die Vielzahl der heute gesammelten Daten auf gänzlich neue Weise auszuwerten. Unternehmen und Staaten wenden erhebliche Ressourcen auf, um sich diese Analyse-Möglichkeiten zunutze zu machen. Doch gilt auch: Künstliche Intelligenz ist von der Qualität der zugrundeliegenden Daten abhängig, sie ist für viele Aufgaben gänzlich ungeeignet und sie entzieht sich bisher weitgehend menschlicher Kontrolle. Deutschland sollte daher laut der SWP-Analyse "Das globale Ringen um die Künstliche Intelligenz" seinen Einfluss in internationalen Foren geltend machen, um den Einsatz künstlicher Intelligenz in politisch sensiblen Bereichen zu regulieren. Zudem sollte die Bundesregierung laut den SWP-Wissenschaftlern sorgfältig prüfen, auf welcher Datengrundlage, zu welchen Zwecken und unter welchen Bedingungen künstliche Intelligenz einen Beitrag zur außenpolitischen Strategiebildung leisten kann.

Auch die EU-Kommission stellt fest: KI) ist längst nicht mehr Science Fiction, sondern Teil unseres Alltags. Von virtuellen persönlichen Assistenten, die unseren Arbeitstag organisieren, bis hin zu Smartphones, die uns nach unserem Geschmack ausgewählte Popsongs vorschlagen, ist künstliche Intelligenz bereits Wirklichkeit. Doch intelligente Systeme machen uns nicht nur das Leben leichter, sondern können auch dazu beitragen, einige der größten Herausforderungen zu meistern, mit denen wir weltweit konfrontiert sind – von der Behandlung chronischer Krankheiten bis hin zum Kampf gegen den Klimawandel oder der Antizipation von Bedrohungen für die Cybersicherheit. KI ist somit eine der strategisch bedeutendsten Technologien des 21. Jahrhunderts. Europa sollte deshalb laut Kommission bei diesen Entwicklungen eine führende Rolle spielen. So stammen aktuell viele bahnbrechende Entwicklungen im Bereich der KI aus europäischen Labors, und rund ein Viertel aller Industrie- und Serviceroboter werden von europäischen Unternehmen produziert.

Weitere Informationen

„Wir müssen das Stromnetz intelligent machen“

Beim Future Mobility Summit ging um die großen Umbrüche, vor denen die Automobilindustrie steht. Über die Rolle kommunaler Unternehmen sprach EURACTIV am Rande der Konferenz mit Katherina Reiche.

EWSA politisiert Künstliche Intelligenz

Ohnehin bereitet die Digitalisierung vielen Menschen Sorgen. Besonders gruselig wird es, wenn es um künstliche Intelligenz geht. Der Europäische Wirtschafts- und Sozialausschuss nahm sich dem Thema an.

Eine Staatsministerin für Digitales

Die Digitalwirtschaft war bereits verschnupft, weil in der neuen GroKo kein Digitalminister vogesehen ist. Nun kommt zumindest eine Staatsministerin im Kanzleramt.

Unterstützer

HUAWEI

Huawei Technologies ist einer der weltweit führenden Anbieter von Informationstechnologie und Telekommunikationslösungen

Von Twitter

Subscribe to our newsletters

Subscribe