Der rumänische Gesetzesentwurf zum Thema „Deepfake“ lehne sich eher an das chinesische als an das europäische Modell an, so mehrere NGOs. Nach der Debatte in der Abgeordnetenkammer am Montag (12. Februar) wurde der Entwurf an die Fachausschüsse zurückgeschickt.
Der Gesetzentwurf, der bereits 2023 vom rumänischen Senat verabschiedet wurde, definiert „Deepfake“ als „alle Bild-, Audio- und Videoinhalte, die typischerweise mit Hilfe von künstlicher Intelligenz oder Virtual-Reality[-Technik] erstellt werden, um den Anschein zu erwecken, dass eine Person Dinge gesagt oder getan hat, die tatsächlich nicht von dieser Person gesagt oder getan wurden.“
Darüber hinaus bezieht sich der Begriff Deepfake auf „den böswilligen Einsatz von Technologie – die absichtliche Irreführung mit dem Ziel, Fehlinformationen und Informationschaos zu schaffen, indem menschliches Verhalten manipuliert und Schwachstellen ausgenutzt werden.“
Der böswillige Einsatz von Technologie durch Erstellung, Verbreitung in den Medien und Verbreitung auf Online-Plattformen von stark gefälschten Inhalten ist verboten – es sei denn, solche Inhalte werden von einem Warnhinweis begleitet, der auf mindestens 10 Prozent der sichtbaren Fläche und während des gesamten visuellen Inhalts angezeigt wird. Eine Alternative dazu ist eine akustische Botschaft zu Beginn und am Ende des Audio-Inhalts: „Dieses Material enthält erfundene Situationen.“
Der Gesetzentwurf sieht bei Verstoß Freiheits- oder Geldstrafen vor.
Eine Gruppe aus der Zivilgesellschaft hat den Gesetzesentwurf jedoch kritisiert und erklärt, er sei dem chinesischen Modell näher als dem europäischen. In einem Schreiben an die Abgeordneten vom Montag fordern sie diese auf, nicht über den Gesetzentwurf in seiner jetzigen Form abzustimmen, der ihrer Meinung nach schwerwiegende Mängel aufweise.
Die NGOs weisen darauf hin, dass das Gesetz gefährliche Bestimmungen enthalte, wie beispielsweise Gefängnisstrafen für die Erstellung von zutiefst falschen Inhalten. Zudem könnten legale Inhalte, wie jene, die durch die Ausübung des Rechts auf freie Meinungsäußerung geschützt sind, strafrechtlich verfolgt werden, was einen Verstoß gegen dieses Grundrecht darstellen würde.
Darüber hinaus enthalte der Text mehrere Unklarheiten und Ausdrücke, die von einem oberflächlichen Verständnis des Phänomens zeugen würden.
Der Entwurf berücksichtige auch nicht die Tatsache, dass die EU-Institutionen derzeit an der Fertigstellung des AI-Gesetzes arbeiten.
„Das von den Abgeordneten, die den Gesetzesentwurf geändert haben, gewählte Regulierungsmodell ist das von China, einem autoritären Staat, in dem die politische Macht die Technologie nutzt, um die Bevölkerung zu kontrollieren und die Rechte der Bürger einzuschränken“, heißt es in dem Schreiben.
Die NGOs weisen darauf hin, dass es keine Ausnahmen gibt, um Formen der freien Meinungsäußerung zu schützen. Dies gelte auch für die Verwendung von Deepfake-Inhalten zu satirischen oder künstlerischen Zwecken oder in kommerziellen Produktionen, also in der Werbung, oder in der Filmindustrie, wie sie bereits praktiziert werden und in europäischen Rechtsvorschriften vorgesehen sind, die demnächst in Kraft treten werden.
Im Gespräch mit Digi24 erklärte der rumänische Minister für Forschung, Innovation und Digitalisierung, Bogdan Ivan, letzte Woche, dass mindestens 15 Prozent des Videos einen Warnhinweis enthalten müssen. Darin müsse darauf hingewiesen werden, dass der gezeigte Inhalt nicht real ist, sondern mit Hilfe generativer künstlicher Intelligenz erstellt wurde, um Geldbußen zu vermeiden.
Um zu verhindern, dass Deepfakes auf eine Art und Weise verwendet werden, wie es kürzlich bei der Darstellung von Taylor Swift der Fall war, sagte Ivan, er wolle, dass Deepfake-Material innerhalb von 60 Minuten entfernt wird. „Wenn es gemeldet wird, wird es gefiltert. Wenn es echt ist und als Fälschung gemeldet wurde, wird es wieder veröffentlicht“, erklärte Bogdan Ivan.
Auf die Frage, wie diejenigen, die solche Inhalte erstellen, identifiziert werden, sagte Ivan, dass es technisch recht einfach sei, sie zu identifizieren. Er wies darauf hin, dass man noch nach einer Regelung suche, wer für die Identifizierung zuständig sein wird.
[Bearbeitet von Kjeld Neubert]