Einsatz von KI im Journalismus birgt ethische Risiken

Von der automatisierten Berichterstattung und Datenverarbeitung bis hin zur Überprüfung von Informationen - die Präsenz von KI in der Welt des Journalismus nimmt zu. [shutterstock / metamorworks]

KI-Technologien werden zunehmend in die Nachrichtenredaktionen integriert. Da das Vertrauen in die Medien sich jedoch in einer prekären Lage befindet, bestehen weiterhin Bedenken, dass die Einführung des maschinellen Lernens die Situation verschlechtern könnte.

Von der automatisierten Berichterstattung und Datenverarbeitung bis hin zur Überprüfung von Informationen – die Präsenz von KI in der Welt des Journalismus und in anderen Sektoren nimmt zu. Da die Medienbranche jedoch auf Vertrauen angewiesen sowie der Wahrheit verpflichtet ist, ist der Einsatz solcher Technologien mit einer zusätzlichen Komplexitätsebene verbunden.

Mehrere Programme integrieren KI erfolgreich in den Nachrichtenerstellungsprozess, indem sie Corona-Daten aufschlüsseln und standardisieren. Dennoch gibt es nach wie vor Bedenken hinsichtlich der ethischen Implikationen des Einsatzes dieser Art von Software in einem Sektor, der mit sensiblen Informationen umgeht und eine potenziell große gesellschaftliche Reichweite hat.

Trotzdem werden die Medien im KI-Gesetzentwurf der EU nicht als risikoreicher Anwendungsbereich aufgeführt. Der Entwurf verfolgt einen vertikalen, risikobasierten Ansatz zur Regulierung der Technologieanwendung, bei dem Sektoren identifiziert werden, die als besonders anfällig für ihren Missbrauch gelten oder unbeabsichtigte Folgen nach sich ziehen könnten.

EU will "weltweit führend" beim Thema KI werden

Die Europäische Kommission hat am Mittwoch ihr neues KI-Paket vorgestellt, in dem sie ihre Ambitionen darlegt, Europa zu einem „weltweit führenden“ Akteur in diesem Bereich zu machen.

KI im Journalismus ist bereits weit verbreitet, sowohl was bestehende als auch potenzielle Anwendungen angeht. In vielen Fällen findet die Arbeit noch hinter den Kulissen statt, z. B. bei der Automatisierung der Sammlung und Verarbeitung großer Datenmengen, bei der Textanalyse zum Faktencheck oder zur Verschlagwortung von Artikeln.

Zunehmend werden sie jedoch auch in den nach außen gerichteten Komponenten des Journalismus eingesetzt, einschließlich der Formulierung von Artikeln selbst. Verschiedene Redaktionen setzen die Automatisierung ein, um Aktualisierungen zu veröffentlichen und Artikel zu aktuellen Themen, Sportereignissen und Immobilienangeboten zusammenzustellen.

Die Software ist hierbei nicht nur textbasiert und wird auch auf andere Medienformen angewandt.

Design AI, ein in München ansässiges Unternehmen, hat in Zusammenarbeit mit Nachrichtenorganisationen wie der European Pressphoto Agency und der spanischen Nachrichtenagentur EFE eine KI für die Kommentierung von Videos entwickelt, die vor allem für die Archivierung von Filmmaterial eingesetzt wird. Allerdings gibt es auch potenzielle Anwendungen für ein breites Spektrum von Praktiken innerhalb und außerhalb des Journalismus.

Wenn es um die Ethik des Einsatzes von KI in den Medien und deren Berücksichtigung geht, muss zwischen den verschiedenen Entwicklungsstufen unterschieden werden, so Keesiu Wong, CEO und Mitbegründer von DesignAI gegenüber EURACTIV.

Dies geschieht zuerst, indem man feststellt, ob die Bedenken auf die KI als Ganzes zutreffen. Zum Beispiel, wenn es um die Verzerrung von Daten geht, wie bei der Anwendung der Technologie in anderen Sektoren, oder ob sie für die medienspezifische Nutzung der Software gilt. Zweitens geht es darum, herauszufinden, wo diese Probleme innerhalb des Prozesses von der Entwicklung bis zur Anwendung auftreten könnten.

„Es gibt verschiedene Ebenen und Orte, an denen unerwünschtes unethisches Verhalten auftreten kann“, so Wong.

„Dies könnte darin bestehen, wie die Software programmiert wird, was im Grunde unserem Anliegen entspricht. Es könnte darin liegen, wie die Daten erstellt wurden, und das ist im Grunde die schwierigste Ebene, weil sie am wenigsten offensichtlich ist. Und dann könnte es auch daran liegen, wie die KI angewendet wird.

Daher sei ein „Ethik durch Design“-Ansatz für die Entwicklung dieser Art von Technologien erforderlich. „Ethische Überlegungen müssen überall angestellt werden – bei der Konstruktion oder dem Design der KI, bei der Erstellung des Datensatzes, beim Training und bei der Anwendung.

Wenn es um den Einsatz dieser Software durch Medienorganisationen geht, ergeben sich zusätzliche Überlegungen angesichts der potenziellen Auswirkungen der Veröffentlichung von Informationen, die durch automatisierte Technologien verarbeitet wurden.

KI-Tools können beispielsweise für investigative Journalisten von unschätzbarem Wert sein, wenn es darum geht, große Mengen an Informationen zusammenzutragen und zu verarbeiten, sagte Jonathan Stray, ein KI-Forscher an der Universität Berkeley, am Donnerstag (2. Dezember) auf dem JournalismAI Festival der London School of Economics.

Er fügte jedoch hinzu, dass, bevor irgendwelche Behauptungen oder Anschuldigungen auf dieser Grundlage öffentlich gemacht werden, „die Gewährleistung der Genauigkeit eines Prozesses und der menschlichen Aufsicht über die Produktqualität zu den wichtigsten ethischen Herausforderungen im Zusammenhang mit KI und der Berichterstattung gehört.“

EU-Ratspräsidentschaft schlägt wesentliche Änderungen am KI-Gesetzentwurf vor

Die rotierende EU-Ratspräsidentschaft hat am Montag (29. November) einen ersten Kompromisstext veröffentlicht, der einen Fortschrittsbericht zum KI-Gesetzentwurf der EU begleitet.

[Bearbeitet von Alice Taylor]

Subscribe to our newsletters

Subscribe