Eine am Dienstag (19. September) veröffentlichte Umfrage ergab, dass 71 Prozent der deutschen und 57 Prozent der französischen Bürgerinnen und Bürger über die Bedrohung von Wahlen durch KI und Deepfake-Technologie besorgt sind.
Die Umfrage wurde von Luminate durchgeführt – einer philanthropischen Organisation, die von Pam und Pierre Omidyar, dem ehemaligen Vorstandsvorsitzenden der Internet-Verkaufsplattform eBay, gegründet wurde. Sie zeigt, dass mehr als die Hälfte der deutschen und französischen Bürgerinnen und Bürger über die Bedrohung von Wahlergebnissen durch KI und Deepfake besorgt sind.
Mit einer Stichprobengröße von 1.008 französischen, 2.067 deutschen und 2.156 britischen Bürgern wurden bei der Umfrage verschiedene politische Hintergründe, Regionen, Geschlechter und Altersgruppen berücksichtigt.
Zum Thema Datenschutz zeigen die Ergebnisse, dass 81 Prozent der Franzosen und 75 Prozent der Deutschen ihr Widerspruchsrecht gegenüber Social-Media-Plattformen, die personenbezogene Daten von Personen zu Werbezwecken verarbeiten, für wichtig halten.
„Die Ergebnisse von Luminate zeigen, dass die Nutzer ein tiefes Verständnis für die Auswirkungen der sozialen Medien auf die Demokratie haben. Es scheint, dass die Nutzer nicht mehr so naiv sind wie früher“, erklärte Daniel Barredo, Forscher für öffentliche Meinung und Medien an der Universität von Málaga, Spanien.
„Es gibt jetzt eine klare Forderung nach dem Schutz der individuellen Rechte“, so Barredo gegenüber Euractiv.
Auswirkungen
33 Prozent der deutschen und 44 Prozent der französischen Befragten sind der Meinung, dass Social-Media-Unternehmen einen negativen Einfluss auf die Demokratie haben. Dagegen halten nur 18 Prozent bzw. 14 Prozent ihren Einfluss für positiv.
„Die Nutzer sind sich zunehmend negativer Akteure und Praktiken bewusst, wie zum Beispiel die Art und Weise, wie Cyber-Truppen versuchen, Verleumdungskampagnen durch organisierte Netzwerke von Social Bots und Trollen zu orchestrieren“, sagte Barredo.
Der weit verbreitete Einsatz von KI erweitert den Zugang zur Erstellung und Verbreitung von Inhalten, was die Verbreitung von Desinformationen verstärken könnte, warnte er.
Alaphia Zoyab, Direktorin für Kampagnen und Medien bei Luminate, sagte: „Jeder Dollar, den diese wohlhabenden Technologieunternehmen für Werbeplakate ausgeben, die uns sagen, dass sie Wahlen schützen, ist ein Dollar, der verschwendet wird, ohne dass dies tatsächlich geschieht.“
Laut der Umfrage haben 64 Prozent der Franzosen und 63 Prozent der Deutschen nicht das Gefühl, dass sie die Kontrolle über ihre persönlichen Daten und deren Verwendung durch Social-Media-Plattformen haben.
„In den letzten zehn Jahren haben die großen Technologieunternehmen einen umfassenden Angriff auf unsere persönlichen Daten gestartet, der den heutigen Boom der generativen KI befeuert. Sie hatten nie wirklich unsere Zustimmung, weil sie uns nie eine sinnvolle Auswahl oder tatsächliche Kontrolle gegeben haben“, fügte Zoyab hinzu.
In vielen Fällen sind Desinformationen eng mit institutionellen oder organisatorischen Ursprüngen verbunden, wobei böswillige Akteure aktiv Inhalte verbreiten, die einer nationalen oder politischen Sache dienen.
Andererseits können Ressourcenprobleme im Zusammenhang mit der Moderation dazu führen, dass Social-Media-Unternehmen solche Inhalte nicht ausreichend identifizieren und entfernen. Dies kann zur Verbreitung irreführender Informationen führen und die Verfügbarkeit von Werbung einschränken.
EU-Wahlen und Präventionsmaßnahmen
Um der potenziellen Bedrohung und der Macht sozialer Medienplattformen entgegenzuwirken, hat die EU das Gesetz über digitale Dienste (DSA) verabschiedet.
Der DSA soll insbesondere soziale Medienplattformen dazu verpflichten, politisch motivierte Desinformation, Hassreden und manipulative Taktiken zur Verfälschung von Wahlergebnissen zu bekämpfen, um die Rechte des Einzelnen und schutzbedürftige Gruppen, wie zum Beispiel Minderjährige, zu schützen.
Eine der wichtigsten Neuerungen im Rahmen des DSA wird am 30. Oktober eintreten, wenn sehr große Online-Plattformen (VLOPs) verpflichtet werden, die in ihrem algorithmischen System zur Erkennung von Hassreden verwendeten Indikatoren und die Anzahl der Faktenprüfer pro Landessprache der EU-Mitgliedstaaten, einschließlich ihrer Sprachkompetenz und akademischen Qualifikationen, zu veröffentlichen.
Diese internen Daten werden seit langem von Forschern und Organisationen der Zivilgesellschaft angefragt, um besser zu verstehen, wie die Moderation in den genannten VLOPs gehandhabt wird.
Die Sanktionen bei Nichteinhaltung des DSA belaufen sich auf eine Gesamtobergrenze von 6 Prozent des weltweiten Jahresumsatzes des betreffenden Anbieters von Vermittlungsdiensten, gefolgt von einem Verbot des Zugangs zum EU-Binnenmarkt im Falle eines Rückfalls.
Bei den anstehenden Wahlen wird die EU gefordert sein, einige der genehmigten DSA-Regeln, die Übergangsfristen vorsehen, in die Praxis umzusetzen, so Barredo.
Da Desinformation oft sowohl mit transnationalen als auch mit lokalen Kampagnen verbunden ist, „sollte die EU meiner Meinung nach in Zusammenarbeit mit der Zivilgesellschaft und der Wissenschaft ein Netzwerk von Beobachtungsstellen einrichten, um die Verbreitung von gefälschten oder beleidigenden Inhalten in den sozialen Medien zu analysieren“, empfahl Barredo.
„Die koordinierten Ergebnisse dieser Beobachtungsstellen könnten ein wichtiges Instrument sein, um die wirksame Umsetzung des DSA und die Umwandlung von Social-Media-Plattformen in verantwortungsvollere Einrichtungen zu bewerten“, sagte er abschließend.
[Bearbeitet von Nathalie Weatherald]