Die USA fordern, Unternehmen aus dem weltweit ersten internationalen Vertrag über künstliche Intelligenz auszunehmen. Im Gegenzug bereitet sich die EU-Kommission nun darauf vor, diesen Vorschlag zurückzuweisen und drängt auf eine möglichst hohe Übereinstimmung mit dem KI-Gesetz der EU.
Der Europarat, ein internationales Menschenrechtsgremium mit 46 Mitgliedsländern, hat Anfang 2022 den Ausschuss für künstliche Intelligenz eingerichtet, um das Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit auszuarbeiten.
Der verbindliche internationale Vertrag ist der erste seiner Art im Bereich der künstlichen Intelligenz und steht unter Zeitdruck: Derzeit ist geplant, ihn bis März fertig zu stellen, um ihn im Mai auf Ministerebene zu verabschieden. Daher müssen zahlreiche offene Fragen auf der Plenarsitzung am 23. und 26. Januar geklärt werden.
Die wichtigste Frage betrifft den Geltungsbereich des Vertrags. Im Juni berichtete Euractiv, dass die USA, die als Beobachterland teilnehmen, darauf drängen, Unternehmen grundsätzlich vom Vertrag auszunehmen und es den Unterzeichnerstaaten zu überlassen, ob sie den Privatsektor einbeziehen wollen.
Ausschluss des Privatsektors
Diese Möglichkeit ist immer noch im Gespräch, wie ein vom Europarat am 18. Dezember veröffentlichter Vertragsentwurf bestätigt. Die teilnehmenden Länder werden einvernehmlich über die verschiedenen Optionen entscheiden müssen, wobei einige Entscheidungen bereits auf einem informellen Treffen nächste Woche erwartet werden.
„Die Union sollte den alternativen Vorschlägen nicht zustimmen, die den Anwendungsbereich des Übereinkommens auf Aktivitäten innerhalb des Lebenszyklus von Systemen der künstlichen Intelligenz durch eine Vertragspartei oder im Namen einer Vertragspartei beschränken oder die Anwendung auf den privaten Sektor nur über ein zusätzliches Protokoll oder freiwillige Erklärungen der Vertragsparteien (opt-in) erlauben“, heißt es in einem Informationsvermerk der Kommission, der Euractiv vorliegt.
In dem Dokument heißt es, dass diese Vorschläge den Geltungsbereich des Vertrags grundsätzlich einschränken würden, „was seinen Nutzen schmälert und die falsche politische Botschaft vermittelt, der zufolge die Menschenrechte im privaten Bereich nicht den gleichen Schutz verdienen.“
Die EU-Kommission weist darauf hin, dass dieser Ansatz dem internationalen Recht widersprechen würde, das die Achtung der Menschenrechte durch private Einrichtungen vorschreibt. Außerdem würde er nicht auf die jüngsten gesellschaftlichen Herausforderungen und regulatorischen Bedenken eingehen, die durch die Entwicklung immer leistungsfähigerer KI-Systeme entstehen.
Daher möchte die Kommission jede Formulierung ablehnen, die nicht die notwendige Rechtssicherheit bietet und den Unterzeichnern zu viel Ermessensspielraum bei der Festlegung des Geltungsbereichs lässt. Schließlich besteht die Absicht des Vertrags gerade darin, eine Menschenrechtsgrundlage im Bereich der KI zu schaffen.
Nationale Sicherheit und Verteidigung
Die Kommission hat das Mandat, den internationalen Vertrag im Namen der EU-Staaten auszuhandeln, soweit er sich mit dem KI-Gesetz überschneidet. Das KI-Gesetz ist ein wegweisendes Gesetz zur Regulierung künstlicher Intelligenz auf der Grundlage ihres Schadenspotenzials.
So will die EU-Kommission, dass das Übereinkommen für den gesamten Lebenszyklus von KI-Systemen gilt, „mit Ausnahme von Forschungs- und Entwicklungstätigkeiten in Bezug auf KI-Systeme in Übereinstimmung mit der Forschungsausnahme im KI-Gesetz.“
Während der Diskussion über das KI-Gesetz gab es eine hitzige Debatte über eine Ausnahmeregelung für die nationale Sicherheit. Frankreich hatte sich im Zusammenhang mit dem KI-Übereinkommen dafür eingesetzt.
In dieser Hinsicht drängt die Kommission auf einen ausdrücklichen Ausschluss von KI-Systemen, die ausschließlich für nationale Sicherheits-, Militär- und Verteidigungszwecke entwickelt werden, in Übereinstimmung mit dem KI-Gesetz der EU.
KI-Gesetz: Copy-und-Paste
In anderen Worten: Brüssel hat offenbar nicht den Wunsch, dass der KI-Vertrag über das europäische KI-Gesetz hinausgeht. Dies gilt selbst für Bereiche, wo nicht zwangsläufig ein Konflikt besteht und das Übereinkommen ambitionierter hätte ausfallen können.
Eine vollständige Überschneidung des internationalen Vertrags mit der EU-Verordnung ist nicht gegeben, da ersteres dem Schutz der Menschenrechte dient, während letzteres lediglich die EU-Marktvorschriften nach einem traditionellen Produktsicherheitsplan harmonisieren soll.
In Anlehnung an das KI-Gesetz im Bereich der Strafverfolgung hofft die Kommission, dass „das Übereinkommen den Vertragsparteien erlaubt, von den Transparenzbestimmungen des Übereinkommens abzuweichen, wenn dies für die Prävention, Aufdeckung und Verfolgung von Straftaten erforderlich ist.“
Da das KI-Gesetz bestimmte Anwendungen wie Social Scoring verbietet, die als unannehmbares Risiko angesehen werden, drängt die Kommission darauf, diese Verbote auf internationaler Ebene durch ein Moratorium oder ein Verbot auszuweiten, da dies „den Mehrwert des Übereinkommens erhöhen würde.“
Die einzige nennenswerte Ausnahme, bei der die EU-Kommission über das KI-Gesetz hinausgehen würde (aber immer noch im Einklang mit dem Unionsrecht steht), ist die Unterstützung einer Bestimmung zum Schutz von Whistleblowern bei der Durchsetzung des Übereinkommens. Das Vereinigte Königreich, Kanada und Estland haben sich gegen diese Bestimmung ausgesprochen.
[Bearbeitet von Nathalie Weatherald/Kjeld Neubert]