Eine Reihe von Akademikern wurden auserwählt, um einen Verfahrenskodex für Allzweck-KI entwerfen, wie die EU-Kommission verkündete. Die Namen reichen von Doktoranden bis hin zum Turing-Preisträger Yoshua Bengio.
Für Anbieter von Allzweck-KI-Systemen wie ChatGPT stützt sich das europäische KI-Gesetz (AI Act) stark auf den Verfahrenskodex. Dieser wird detailliert beschreiben, was die Anforderungen des Gesetzes an Risikomanagement und Transparenz in der Praxis bedeuten würden, bis die Standards irgendwann im Laufe des Jahres 2026 endgültig festgelegt werden.
„Die Vorsitzenden und stellvertretenden Vorsitzenden spielen eine entscheidende Rolle bei der Gestaltung des ersten Verfahrenskodex für Allzweck-KI“, erklärte die Europäische Kommission in einer Pressemitteilung vom Montag (30. September).
Letzte Woche äußerten drei einflussreiche Europaabgeordnete Zweifel daran, ob die Leiter der Arbeitsgruppen über internationale Expertise verfügen. Zudem stellten sie den Zeitpunkt der Veröffentlichung der Liste infrage.
Die Kommission veröffentlichte die Liste nur wenige Stunden, bevor der Entwurfsprozess des Kodex offiziell mit einer Auftakt-Plenarsitzung um 15 Uhr am Montag (30. September) begann, wie aus einer E-Mail der Kommission hervorgeht, die Euractiv vorliegt.
Der erste Entwurf des Kodex werde um den 3. November herum vorgelegt. Das erste Treffen mit Anbietern von Allzweck-KI sei für Mitte Oktober geplant, teilte die Kommission laut einer Quelle mit.
Kai Zenner, Berater für digitale Politik des CDU-Europaabgeordneten Axel Voss (EVP), einer der drei Abgeordneten, die der Kommission Fragen zu den Vorsitzenden und stellvertretenden Vorsitzenden geschickt haben, teilte in einem LinkedIn-Beitrag mit, er sei erfreut, internationale Expertise auf der Liste zu sehen. Es aber sei jedoch „schade“, dass die Ankündigung nach der Intervention des Europäischen Parlaments erfolgt sei.
Die Liste ist international und hat eine starke Ausrichtung auf akademische und Forschungseinrichtungen. Unter den 13 ernannten Vorsitzenden und stellvertretenden Vorsitzenden befinden sich vier Professoren, zwei Doktoren, drei Doktoranden und drei Forscher.
„Diese Liste zeigt eine starke Mischung aus technischer, juristischer, sozialer und wissenschaftlicher Expertise – genau die Art von Profilen, die für Positionen im EU-KI-Büro infrage kommen sollten“, meinte Max Reddel, Direktor für fortgeschrittene KI beim International Centre for Future Generations, gegenüber Euractiv.
Die Namen
Ein Name, der positive Aufmerksamkeit erregte, war Professor Yoshua Bengio, der den Vorsitz der Gruppe für technische Risikominderung übernehmen wird. Er wird oft als einer der drei „Paten der KI“ bezeichnet, weil seine Arbeit zum Thema Deep Learning in den 1980er Jahren grundlegend für die KI war, wie wir sie heute kennen.
„Dass Yoshua Bengio seine überbuchte Zeit nutzt, um den Vorsitz einer Arbeitsgruppe für einen Verfahrenskodex zu übernehmen, zeigt, welche Bedeutung das EU-KI-Gesetz weltweit als führende Regelung für das KI-Risikomanagement hat“, betonte Simeon Campos, Experte für KI-Risikomanagement und Geschäftsführer von SaferAI, gegenüber Euractiv.
Bengio wird von zwei stellvertretenden Vorsitzenden unterstützt: Daniel Privitera, Hauptautor des International Scientific Report on the Safety of Advanced AI, und Nitarshan Rajkumar, Doktorand und ehemaliger leitender Politikberater der britischen Regierung.
Die Direktorin des European Laboratory for Learning and Intelligent Systems (ELLIS) Alicante Nuria Oliver und der Rechtsprofessor Alexander Peukert werden gemeinsam den Vorsitz der Gruppe übernehmen, die sich mit Transparenz und urheberrechtsbezogenen Regeln befasst.
Die stellvertretenden Vorsitzenden der Gruppe sind der Informatik-Doktorand Rishi Bommasani und die Rechtsprofessorin Céline Castets-Renard.
Matthias Samwald, Associate Professor am Institut für Künstliche Intelligenz der Medizinischen Universität Wien, wird den Vorsitz der Arbeitsgruppe für Risikoidentifizierung und -bewertung übernehmen. Unterstützt wird er dabei von den stellvertretenden Vorsitzenden Marta Ziosi, einer promovierten Wissenschaftlerin, und Alexander Zacherl, einem ehemaligen Systemdesigner bei Google DeepMind.
Darüber hinaus wird Marietje Schaake, ehemalige Europaabgeordnete und Fellow am Stanford Cyber Policy Centre, den Vorsitz der Arbeitsgruppe für internes Risikomanagement und Governance von Allzweck-KI-Anbietern übernehmen.
Sie wird von den stellvertretenden Vorsitzenden Anka Reuel, Doktorandin in Stanford, und Markus Anderljung, Forscher bei GovAI, der an mehreren internationalen Initiativen zur KI-Governance beteiligt war, unterstützt.
[Edited by Eliza Gkritsi/Martina Monti/Kjeld Neubert]