Amazon tut es. Apple tat es. Google tat es. Wer fehlt? Microsoft. Und offenbar lässt auch das vierte große Tech-Unternehmen Sprachaufnahmen von menschlichen Mitarbeitern abhören. Im Gegensatz zu Alexa, Siri und Google geht es aber nicht nur um Sprachassistenten, sondern auch um ein Programm, das Hunderte Millionen Menschen für berufliche und private Telefonate nutzen: Skype.
Wer seine Sprach- und Videoanrufe mit dem Skype Translator übersetzen lässt, muss einem Bericht von Vice zufolge damit rechnen, dass nicht nur die Gesprächspartner, sondern noch mehr Menschen zuhören. Microsoft selbst spricht von einem "maschinellen Lernprozess". Im Hilfebereich heißt es nur, dass "automatische Transkripte analysiert werden". Dass diese Aufgabe offenbar von Menschen erledigt wird, geht aus Microsoft Erklärung nicht hervor. Auch in der Datenschutzerklärung steht kein Wort darüber.
Die Vorwürfe basieren auf internen Unterlagen, Screenshots und Audio-Mitschnitten, die eine anonyme Quelle Vice zugespielt hat. Der Whistleblower arbeitet bei einem externen Dienstleister von Microsoft, wo er die Aufnahmen abhört und analysiert. Schon die Tatsache, dass er oder sie die Dokumente an Vice weitergeben könne, zeige, wie fahrlässig Microsoft handle und welch geringe Rolle Datenschutz dort spiele, sagte die Quelle demnach. Ein Teil der Angestellten soll die Aufnahmen nicht einmal in einer geschützten Büroumgebung, sondern von zuhause aus bearbeiten. Aus den Unterlagen gehe auch hervor, dass Microsoft Mitarbeiter beschäftigt, die Aufnahmen der Sprachassistentin Cortana abhören und transkribieren.
In den vergangenen Monaten hatten mehrere Medien aufgedeckt, dass hinter "künstlicher" Intelligenz überraschend oft menschliche Ohren stecken: Nach heftiger Kritik stellten Apple und Google die Praxis vorerst ein. Amazon gibt Nutzern zumindest eine Möglichkeit, die manuelle Auswertung zu deaktivieren.
"Einige der Aufnahmen können eindeutig als Telefonsex beschrieben werden"
Als die SZ Microsoft im Juli fragte, ob und in welchem Umfang Menschen bei Cortana mithören, antwortete das Unternehmen zwei Wochen lang nicht. Als Vice im April wissen wollte, wie viele Menschen Cortanas Aufzeichnungen hören können, sagte eine Sprecherin nur: "Microsoft weiß zu keinem Zeitpunkt, wer Fragen an Cortana gestellt hat."
Auf eine aktuelle SZ-Anfrage sagte Microsoft, dass es die Daten anonymisiere und von Vertragspartnern eine Geheimhaltungsvereinbarung verlange. Außerdem müssten diese externen Dienstleister hohe Datenschutzstandards einhalten. Microsoft mache die "Nutzung von Sprachdaten transparent, um sicherzustellen, dass unsere Kunden informierte Entscheidungen darüber treffen können, wann und wie ihre Sprachdaten verwendet werden." Das Unternehmen hole sich die Zustimmung ein, bevor es Sprachdaten sammle und nutze. Wie Nutzer eine informierte Entscheidung treffen können, wenn sie nicht wissen, dass Menschen ihre Telefonate abhören, erklärte Microsoft nicht.
Wie die vergangenen Enthüllungen zu den Aufnahmen von Alexa, Siri und Google enthält auch der Bericht von Vice Zitate von Mitarbeitern, die beim ersten Lesen schockieren: "Einige der Dinge, die ich gehört habe, können eindeutig als Telefonsex beschrieben werden", sagt eine Quelle. "Ich habe gehört, wie Menschen ihre vollständigen Adressen verraten oder Cortana nach Pornografie suchen lassen." Auch Mitarbeiter von Amazon, Apple und Google hatten von Berufsgeheimnissen, intimen Szenen und sogar von einer Vergewaltigung erzählt, die sie zu Ohren bekommen hätten, weil Sprachassistenten versehentlich aktiviert worden seien.
Hinter vielen Maschinen stecken in Wirklichkeit Menschen
Die Tatsache, dass Nutzer per Skype und mit aktivierter Übersetzungsfunktion Telefonsex haben, lässt sich den Unternehmen aber nicht vorwerfen. Der Skandal liegt auch nicht darin, dass überhaupt Menschen zuhören, um Software zu verbessern - sondern in der Tatsache, dass das jahrelang verheimlicht und verharmlost wurde. Nicht einmal Apple, das sonst bei jeder Gelegenheit beteuert, wie wichtig Transparenz und Datenschutz seien, hatte Nutzer eindeutig darauf hingewiesen, dass ein Teil der Aufnahmen von Menschen analysiert wird.
Nutzer können aus den jüngsten Enthüllungen eines lernen: "Künstliche Intelligenz", "Algorithmen" und "maschinelles Lernen" sind keine Magie. Dahinter stecken nicht nur menschliche Entwickler, die die Technik konstruieren, sondern oft auch menschliche Kontrolleure, die mit den erfassten Inhalten arbeiten. Wer glaubt, mit einer Maschine zu interagieren, sollte sich fragen: Könnte es sein, dass irgendwo ein Mensch in einem Jogginganzug zuhause sitzt und erfährt, dass ich gerade von Google wissen wollte, was gegen Kater hilft?
Aktualisierung, 15. August 2019: Mittlerweile hat Microsoft seine Datenschutzerklärung geändert. Das Unternehmen weist Nutzer nun darauf hin, dass auch Menschen Skype-Aufnahmen abhören können.
