Österreich bekämpft Deepfakes angesichts zunehmender Anwendung

Dies sei ein "ein erhebliches sicherheitspolitisches Risiko, weil die Identifizierung einer künstlichen Beeinflussung schwer nachweisbar oder nachvollziehbar ist", sagte der österreichische Innenminister Gerhard Karner am Mittwoch auf einer Pressekonferenz.  [MDV Edwards/Shutterstock]

Die österreichische Bundesregierung hat am Mittwoch (25. Mai) einen Aktionsplan zur Bekämpfung von „Deepfakes“ veröffentlicht, der darauf abzielt, besser gegen Desinformation und Hassreden vorzugehen. Auch auf EU-Ebene versuchen mehrere Gesetzestexte, das immer häufiger auftretende Problem anzugehen.

Die durch die Pandemie beschleunigte Entwicklung der Digitalisierung führt zu einer rasanten Zunahme von Deepfakes, einer Art von KI-gesteuerten Medien, die jemanden Dinge tun oder sagen lassen, die in Wirklichkeit nie geschehen sind.

Dies sei „ein erhebliches sicherheitspolitisches Risiko, weil die Identifizierung einer künstlichen Beeinflussung schwer nachweisbar oder nachvollziehbar ist“, sagte der österreichische Innenminister Gerhard Karner am Mittwoch auf einer Pressekonferenz.

Bereits Ende 2020 wurde eine interministerielle Task Force zu diesem Thema ins Leben gerufen, an der das österreichische Bundeskanzleramt, das Justizministerium, das Verteidigungsministerium und das Außenministerium beteiligt sind.

Diese Arbeitsgruppe hat sich mit dem Thema befasst, was zur Veröffentlichung des Aktionsplans führte, der vier Handlungsfelder vorsieht: „Strukturen und Prozesse“, „Governance“, „Forschung und Entwicklung“ und „Internationale Zusammenarbeit“. Die Sensibilisierung der Bevölkerung für das Thema soll ausgebaut und verstärkt werden.

Die österreichische Bundesregierung betonte, dass bei der Regulierung von Deepfake-Videos die einschlägigen Grund- und Persönlichkeitsrechte berücksichtigt werden sollen und dass dem Schutz der Meinungs- und Kunstfreiheit besondere Beachtung geschenkt werden muss.

„Deepfakes werden verwendet, um die öffentliche Meinung und demokratische Prozesse zu manipulieren, oder Einzelne mit Hass im Netz zu überziehen“, sagte Justizministerin Alma Zadic.

Was sind die Risiken von Deepfakes? 

Das österreichische Parlament geht davon aus, dass jeden Tag neue Deepfakes veröffentlicht werden, da für deren Erstellung keine umfangreiche Software mehr erforderlich ist.

Professor Hany Farid von der Universität Berkeley geht sogar davon aus, dass es in den nächsten drei bis fünf Jahren nicht mehr möglich sein wird, eine Fälschung von einer echten zu unterscheiden.

Nicht alle Deepfakes sind bösartiger Natur, sie können auch zu nicht missbräuchlichen Zwecken wie Satire eingesetzt werden. Doch die meisten dienen dazu, den Ruf von Menschen durch diffamierende pornografische Fake-Videos zu schädigen.

Einem Bericht des niederländischen Startups Sensity zufolge macht diese Nutzung mehr als 90 Prozent der Fälle aus, und die Zahl der generierten Videos verdoppelt sich allein von Ende 2018 bis 2020 alle sechs Monate.

Abgesehen von pornografischem Material, das eher Frauen betrifft, können Deepfakes auch im politischen Kontext gefährlich sein.

Im März 2022 wurde ein manipuliertes Video des ukrainischen Präsidenten Wolodymyr Selenskyj in Umlauf gebracht, in dem Selenskyj scheinbar die ukrainische Armee auffordert, sich zu ergeben.

Eine Studie des „Panel for the Future of Science and Technology“ aus dem Jahr 2021 kam zu dem Ergebnis, dass „die Risiken, die mit tiefgreifenden Fälschungen verbunden sind, psychologischer, finanzieller und gesellschaftlicher Natur sein können, und ihre Auswirkungen können von der individuellen bis zur gesellschaftlichen Ebene reichen“.

Die Studie empfahl der Politik daher, die negativen Auswirkungen der Technologie zu verhindern und zu bekämpfen und entsprechende Maßnahmen in ihren Rechtsvorschriften zu verankern.

EU-Vorschriften zur Bekämpfung von Deepfakes 

Als Reaktion darauf befassen sich mehrere europäische Gesetzgebungsakte mit dem Problem der Deepfakes, wie etwa der Gesetz über digitale Dienste (DSA) und das KI-Gesetz.

Der Entwurf des KI-Gesetzes des Europäischen Parlaments vom 20. April betonte „das Aufkommen einer neuen Generation von digital manipulierten Medien – auch bekannt als Deep Fakes“. Aufgrund ihres Täuschungspotenzials sollten Deepfakes sowohl den Transparenzanforderungen als auch den Konformitätsanforderungen für hochriskante KI-Systeme unterliegen.

Das bedeutet aber nicht, dass hochriskante KI-Systeme verboten werden, sondern die Einhaltung der Vorschriften „macht solche Systeme vertrauenswürdiger und erhöht die Wahrscheinlichkeit, dass sie auf dem europäischen Markt bestehen können“, betonen die Ko-Berichterstatter.

Darüber hinaus enthält die DSA eine Verordnung für sehr große Online-Plattformen, eine Risikobewertung vorzunehmen. Dies schließt die absichtliche Manipulation ihrer Dienste ein, die negative Auswirkungen auf den Schutz der öffentlichen Gesundheit, Minderjährige, den zivilgesellschaftlichen Diskurs, Wahlen, Sicherheit und Ähnliches haben könnte.

Patrick Breyer, EU-Abgeordneter der Piratenpartei und DSA-Meinungsberichterstatter erklärte gegenüber EURACTIV, dass diese Vorschriften zwar als Gegenmaßnahmen dienen könnten, in bewusst manipulierten Fällen jedoch „menschliche Intelligenz gefragt ist“.

Da es unmöglich sein könnte, zu wissen, ob ein Deepfake vorliegt, wird das Aufspüren solcher Fälschungen in Zukunft eine Frage der „Medienkompetenz und Eigenrecherche“ sein, so Breyer.

EU-Abgeordnete beschließen Berichtsentwurf zu künstlicher Intelligenz

Die beiden Ko-Berichterstatter des Europäischen Parlaments haben am Montag (11. April) den Entwurf des Berichts über Künstliche Intelligenz fertiggestellt und dabei die Themen aufgegriffen, bei denen sie Gemeinsamkeiten gefunden haben.

[Bearbeitet von Zoran Radosavljevic]

Subscribe to our newsletters

Subscribe