Seit die Arbeitswelt digitalisiert wird, verändert sich für Beschäftigte viel. Vor Kurzem erregte der Modehändler Zalando mit der Personalsoftware Zonar Aufsehen, bei der sich Kollegen gegenseitig benoten. Mitarbeiter klagen, Zalando erzeuge Überwachung, Leistungsdruck und Stress. Nun haben Forscher in zweijähriger Arbeit untersucht, wie generell die Softwareanalyse von Beschäftigten zu bewerten ist. Ergebnis: Unternehmen handeln dabei womöglich oft rechtswidrig.
Firmen setzen zunehmend Software ein, um Mitarbeiter zu analysieren und zu bewerten, People Analytics heißt das. So lassen sich tatsächliche oder mögliche Leistungen analysieren, steuern oder voraussagen. Die Programme erkennen Muster oder rechnen mit Wahrscheinlichkeiten, etwa durch maschinelles Lernen. "Firmen befinden sich damit oft in einer rechtlichen Grauzone, häufig wird der Einsatz sogar rechtswidrig sein", heißt es nun in einer Studie der Organisation Algorithm Watch, die der Süddeutschen Zeitung vorliegt.
Das Forschungsprojekt, unterstützt von der gewerkschaftsnahen Hans-Böckler-Stiftung, enthält Gutachten etwa des Arbeitsrechtlers Peter Wedde. Es beschäftigt sich nicht mit selbstentworfener Software wie bei Zalando oder dem Verhalten individueller Arbeitgeber. Es geht vielmehr um Programme wie Microsofts Office 365 Workplace Analytics, IBMs Watson Talent Insights oder SAP Success Factors People Analytics. Dabei bedeutet es noch wenig, dass solche Software in einem Unternehmen vorhanden ist.
Anders, wenn es damit tatsächlich People Analytics betreibt. Wenn es etwa Beschäftigtendaten verarbeitet, um individuelle Leistungen vorherzusagen, gibt es strenge gesetzliche Grenzen, so die Forscher. "Hier müssen die Beschäftigten einzeln und freiwillig einwilligen. Das wird in der Praxis oft nicht der Fall sein." Die Alternative ist, dass eine Betriebsvereinbarung die Analysemethoden legitimiert. Doch auch diese fehle häufig. "Es ist davon auszugehen, dass sehr oft weder eine Einwilligung vorliegt noch Betriebsräte bereit dazu sind, Betriebsvereinbarungen abzuschließen." Damit rutschten die Unternehmen beim Einsatz der Programme in die Grauzone oder gar in die Rechtswidrigkeit, so die Forscher. Ihre Erkenntnisse kommen, bevor Bundesarbeitsminister Hubertus Heil (SPD) am Dienstag das Observatorium Künstliche Intelligenz (KI) eröffnet, das die Auswirkungen auf Arbeit und Gesellschaft untersuchen wird.
Ethische Leitlinien für den Einsatz von künstlicher Intelligenz
SAP erklärte, um Personalprogramme für ein besseres Arbeitsumfeld zu gestalten, sei es weder notwendig noch zielführend, Daten auf individueller Mitarbeiterebene zu analysieren. "In diesem Kontext arbeiten wir bei SAP ausschließlich mit aggregierten, vollkommen anonymisierten Datensätzen, unter Einhaltung der Datenschutzregelungen." Microsoft erklärt dazu, Unternehmen, die Microsoft 365 kauften, entschieden für ihre Mitarbeiter, welche Module eingesetzt und aktiviert würden. "Dafür wird zwischen dem Unternehmen und dem Betriebsrat im Regelfall eine Betriebsvereinbarung geschlossen." Bei den Produkten My Analytics und Workplace Analytics könnten keine individuellen Leistungen von Vorgesetzten beurteilt oder vorhergesagt werden.
Die Studie von Algorithm Watch macht als weiteres Problem aus, dass die Unternehmen den Betriebsräten oft nicht die Auskünfte über die Programme geben könnten, die diesen zustehen. Nach dem Gesetz müssten Firmen Arbeitnehmervertreter weitreichend informieren, wie Personalsoftware funktioniert, die etwa auf künstlicher Intelligenz basiert. Doch die Anbieter gäben diese Informationen häufig nicht heraus: "Auf welchen Annahmen und Modellen Prognosen getroffen werden, mit welchen Daten die Systeme trainiert wurden, halten die Anbieter üblicherweise geheim." Sie begründeten das damit, dass sie sich vor Nachahmern schützen müssten. Microsoft erklärt, man stelle durchaus Dokumentation zur Funktionsweise der Software zur Verfügung, was aber seine Grenze beim Schutz von Geschäftsgeheimnissen finde.
"Wenn der Betriebsrat keine Informationen einfordert, führen Firmen die Systeme oft ein", beobachtet Matthias Spielkamp von Algorithm Watch. Er ruft Betriebsräte auf, ihre Auskunftsrechte bereits in der Planungsphase von KI-Systemen durchzusetzen, da sich die praktische Wirksamkeit ihrer Mitbestimmungsrechte verringert, sobald Systeme eingeführt sind. "Im Nachhinein ist es schwieriger, etwas zu ändern."
Zusammen mit dem Mathematiker Sebastian Stiller von der TU Braunschweig wurde ein Leitfaden entwickelt, wie Unternehmen und Betriebsräte gemeinsam von den Softwareanbietern die nötigen Informationen erfragen können. Spielkamp fordert die Bundesregierung auf, gesetzlich klarzustellen, dass Unternehmen auch dann verwendete Methoden transparent machen müssten, wenn die Softwareanbieter mauerten.
Der Arbeitsrechtler Peter Wedde fordert von der Regierung noch mehr: "Um Beschäftigte insbesondere vor dem hohen Kontrollpotenzial zu schützen, das sich mit KI-Software und selbstlernenden Algorithmen verbindet, ist ein Ausbau bestehender Mitbestimmungsrechte unumgänglich." Die Gewerkschaft Verdi legt in Kürze ethische Leitlinien für den Einsatz von künstlicher Intelligenz vor. Vorstand Christoph Schmitz erklärt dazu unter anderem, KI-Systeme, die auf der Verarbeitung großer Datenmengen basieren, dürften nicht zu einer Gefährdung der Persönlichkeitsrechte führen. "Ein Beschäftigtendatenschutzgesetz ist überfällig."
