Kann die KI-Verordnung Arbeitnehmer vor dem Überwachungskapitalismus retten?

KI-Systeme am Arbeitsplatz wecken Ängste um die Rechte der Arbeitnehmer. [Blazej Lyjak (shutterstock)]

Da Algorithmen eine immer wichtigere Rolle am Arbeitsplatz spielen, sind Gesetzgeber besorgt über ihren Einfluss auf die Rechte und das Wohlergehen der Arbeitnehmer. Ein risikobasierter Ansatz für die Regulierung der künstlichen Intelligenz (KI) versucht, diese Herausforderung zu bewältigen, aber ist das ausreichend?

Die Pandemie zwang viele Arbeitnehmer dazu, von zu Hause aus zu arbeiten. Neben der Arbeit nahmen viele auch ihre Arbeitgeber mit nach Hause, da die Unternehmensleitung versuchte, zu überwachen, was sie während des Dienstes, aber nicht im Büro taten. Mehrere Softwareunternehmen bieten inzwischen Produkte an, die Arbeitnehmer über Webcams überwachen und ihre Aktivitäten aus der Ferne verfolgen.

Darüber hinaus hat die künstliche Intelligenz einen besonderen Einfluss auf die Arbeitsbedingungen von Arbeitnehmern außerhalb des traditionellen Beschäftigungsverhältnisses, wie ein Bericht des Internationalen Arbeitsamtes zeigt. Plattformarbeiter werden auf der Grundlage automatisierter Entscheidungsprozesse zugewiesen (oder nicht zugewiesen), wodurch ihr Verdienst von algorithmischen Entscheidungen abhängt.

Im April 2021 schlug die EU-Kommission eine KI-Verordnung vor, die darauf abzielt, die schädlichen Folgen automatisierter Entscheidungsalgorithmen zu verhindern. Der Verordnungsvorschlag klassifiziert verschiedene Anwendungen der künstlichen Intelligenz nach den von ihnen ausgehenden Risiken.

KI-Systeme, die am Arbeitsplatz eingesetzt werden, um die Verwaltung und Einstellung von Mitarbeitern zu unterstützen, werden in dem Vorschlag als „hochriskant“ eingestuft. Nach Ansicht der Kommission sollten KI-Systeme mit hohem Risiko nicht verboten werden, aber sie sollten „angemessene Risikobewertungs- und -minderungssysteme“ bieten. Neben anderen Maßnahmen müssen sie auch „angemessene menschliche Aufsichtsmaßnahmen zur Risikominimierung“ gewährleisten.

Das Mitglied des Europäischen Parlaments Brando Benifei befürchtet, dass diese Maßnahmen nicht ausreichen. Wenn die in der Verordnung geforderte Risikobewertung in einem internen Prozess durchgeführt werden kann, befürchtet er, dass die Arbeitnehmer nicht ausreichend vor negativen Auswirkungen geschützt werden.

„Eine Selbsteinschätzung für solche eingreifenden Praktiken sollte nicht erlaubt sein. Die Stärkung der Sozialpartner und die Einbeziehung der Arbeitnehmer sind entscheidend. Wir müssen sicherstellen, dass die Arbeitnehmer nicht zu einer entbehrlichen Ware im Dienste eines Algorithmus werden“, sagte Benifei auf einer EURACTIV-Veranstaltung.

Laura Nurski, Forschungsstipendiatin bei der Denkfabrik Bruegel, wies darauf hin, dass die Verwaltung durch Algorithmen zu psychischen Problemen bei den Arbeitnehmern führen könnte. Ihrer Meinung nach neigen Algorithmen dazu, Entscheidungen über die Reihenfolge der Aufgaben und die Geschwindigkeit oder das Tempo der Arbeit zu automatisieren. Algorithmen nehmen den Arbeitnehmern damit Freiheiten, die ein wesentlicher Indikator für die Qualität der Arbeit sind.

„Es besteht die reale Gefahr, dass diese Formen der KI am Arbeitsplatz […] das Wohlbefinden der Arbeitnehmer um 100 Jahre zurückwerfen“, schrieb Nurski.

In einer kürzlich abgehaltenen Podiumsdiskussion wies sie auch darauf hin, dass künstliche Intelligenz zu positiven Entwicklungen für Arbeitnehmer führen könnte, da langweilige und sich wiederholende Aufgaben ersetzt werden könnten. Dies könnte aber auch Probleme mit sich bringen, da einige Arbeitnehmer ihren Arbeitsplatz verlieren werden. Nurski betonte, wie wichtig es ist, den Arbeitnehmern die richtigen Fähigkeiten für die Zukunft der Arbeit zu vermitteln.

Zu den Stärken von Anwendungen der künstlichen Intelligenz könnte es auch gehören, zu erkennen, welche Arbeitnehmer welche Fähigkeiten benötigen, sagte Jens-Henrik Jeppesen von workday, einem Anbieter von Personalverwaltungssoftware.

Die vorgeschlagene KI-Verordnung wird derzeit in den europäischen Institutionen diskutiert. Sowohl das Europäische Parlament als auch die Regierungen der Mitgliedsstaaten müssen der Verordnung zustimmen, bevor sie in Kraft treten kann.

> Sehen Sie sich die vollständige EURACTIV-Veranstaltung auf YouTube an (auf Englisch)

Subscribe to our newsletters

Subscribe