Alexa, Siri und Google:Sprachassistenten verlieren ihre menschlichen Ohren

Sprachassistent Alexa

Smarte Lautsprecher wie Amazons Echo-Geräte lauschen auf Aktivierungsworte. Manchmal verhören sie sich und zeichnen auf, ohne dass Nutzer etwas davon mitbekommen.

(Foto: Britta Pedersen/dpa)
  • Bei Siri und Google hören keine Menschen mehr zu, wenn Nutzer mit den Sprachassistenten reden.
  • Wer Alexa verwendet, muss selbst aktiv werden, um zu verhindern, dass ein Teil der Aufnahmen von Mitarbeitern überprüft wird.
  • Mehrere Enthüllungen hatten die Unternehmen unter Druck gesetzt, auch der Hamburger Datenschutzbeauftragte ermittelt.
  • Der Skandal ist nicht, dass Menschen zuhören, sondern dass Amazon, Apple und Google dieses Vorgehen jahrelang verschwiegen haben.

Von Simon Hurtz

Millionen Menschen haben in der vergangenen Woche ein Stück ihrer Privatsphäre zurückgewonnen. Wer mit Siri oder dem Google Assistant spricht, muss vorerst nicht mehr fürchten, dass Menschen die Aufnahmen abhören. Amazon lässt standardmäßig weiter Mitarbeiter lauschen. Alexa-Nutzer erhalten aber zumindest die Möglichkeit, die eigenen Sprachaufzeichnungen für menschliche Ohren zu sperren.

Die drei Unternehmen haben damit offenbar auf den öffentlichen Druck reagiert, den Enthüllungen der vergangenen Monate ausgelöst hatten. Mehrere Medienberichte hatten offenbart, dass hinter Sprachassistenten nicht nur künstliche, sondern auch menschliche Intelligenz steckt: Tausende Mitarbeiter hören die Aufzeichnungen ab und korrigieren die automatischen Transkripte. Damit trainieren sie die Maschinen und verbessern die Qualität der Spracherkennung.

Amazon, Apple und Google haben diese Praxis jahrelang verheimlicht und in vagen Datenschutzerklärungen versteckt. Besonders problematisch ist, dass die Mikrofone weniger zuverlässig funktionieren, als die Hersteller suggerieren. Die Sprachassistenten lauschen auf bestimmte Aktivierungsworte wie "Alexa" oder "Hey Google". Doch manchmal reichen "Alexandra" oder "Hey Kuchen", um die Maschinen durcheinander zu bringen. Siri fühlt sich vom Zip-Geräusch eines Reißverschlusses angesprochen. Dann startet die Aufzeichnung, und oft bekommen die Nutzer nichts davon mit.

Die Unternehmen versuchen, die Pannen herunterzuspielen. Sie sprechen von Einzelfällen, nennen aber keine konkreten Zahlen. Medienberichte legen nahe, dass Fehlalarme häufiger vorkommen. Von etwa 1000 Aufnahmen, die dem flämischen Sender VRT zugespielt wurden, seien rund 150 versehentlich auf Googles Servern gelandet. Die Agentur Bloomberg nennt einen Anteil von zehn Prozent unbeabsichtigter Alexa-Aktivierungen. Auch zwei Apple- und ein Google-Mitarbeiter sagten der SZ, dass sie immer wieder Aufnahmen abgehört hätten, die Nutzer offenbar unbewusst ausgelöst hätten.

Immer wieder sollen sensible Momente eingefangen worden sein: Schlafzimmergeflüster, Streitgespräche, berufliche Telefonate. Beide Medien berichten von verstörenden Aufzeichnungen: Ein Kind habe nach Hilfe gerufen, eine Frau sei offenbar bedrängt worden. Amazon-Angestellte sollen Zeugen einer Vergewaltigung geworden sein. Auch Mitarbeiter, die Sprachaufnahmen für Apple abhören, hören dem Guardian zufolge regelmäßig sensible und intime Aufzeichnungen.

Amazon, Apple und Google ließen Nutzer im Unklaren

Solche Enthüllungen empören viele Menschen und lösen Angst und Verunsicherung aus. Der eigentliche Skandal liegt aber nicht darin, dass die Unternehmen Mitarbeiter beschäftigen, um die automatische Spracherkennung zu optimieren. Vor allem verdienen Amazon, Apple und Google Kritik, weil sie ihre Nutzer völlig unzureichend darüber aufgeklärt haben. Wer weiß, wie maschinelles Lernen funktioniert, konnte ahnen, dass er menschliche Mithörer hat. Doch ein Großteil der Hunderten Millionen Menschen, die Sprachassistenten nutzen, war völlig ahnungslos.

Insofern kommen die Reaktionen der drei Tech-Unternehmen zwar Jahre zu spät, sind aber ein Schritt in die richtige Richtung:

  • Apple hat sich für die radikalste und nutzerfreundlichste Lösung entschieden: Das Unternehmen lässt Siri-Aufnahmen vorerst nicht mehr von Menschen auswerten. Mit einem kommenden Software-Update will Apple Nutzer dann vor die Wahl stellen, was mit ihren Aufzeichnungen geschehen soll. Bislang ist offen, ob es sich um ein Opt-in- oder ein Opt-out-Verfahren handeln wird. Im ersten Fall wäre aktive Zustimmung nötig, bei einer Opt-out-Lösung müssen Nutzer bewusst widersprechen, etwa indem sie einen Haken entfernen.
  • Google geht auf den ersten Blick einen ähnlichen Weg und stoppt die Abhörpraxis. Das gilt aber nur für Nutzer in der EU. Am vergangenen Donnerstag leitete der Hamburger Datenschutzbeauftragte Johannes Caspar ein Verwaltungsverfahren gegen Google ein. Daraufhin teilte ihm das Unternehmen mit, dass bereits seit 10. Juli keine Menschen mehr lauschten. An diesem Tag hatte der flämische Rundfunk VRT seine Recherchen veröffentlicht. Der Stopp gilt bis mindestens Ende Oktober. Ob Google die Auswertung durch Mitarbeiter danach fortsetzt, ist unklar. Das Unternehmen bespricht das weitere Vorgehen derzeit mit Caspar.
  • Amazon geht einen anderen Weg. Freundlich ausgedrückt überlässt das Unternehmen seinen Nutzern die Entscheidung, was mit den Sprachaufnahmen geschehen soll. Die weniger wohlwollende Interpretation lautet: Amazon wälzt die Verantwortung auf seine Nutzer ab. In den Privatsphäre-Einstellungen der Alexa-App gibt es nun einen Schalter, der die manuelle Überprüfung stoppt. Über diesen Link lässt sich die Einstellung auch im Browser deaktivieren.

Unternehmen reagieren erst auf Skandale und öffentlichen Druck

Aus Sicht der Unternehmen mag es wünschenswert sein, dass möglichst viele Nutzer ihre Sprachaufnahmen freigeben. Jahrelang haben sie auf eine Strategie der Desinformation gesetzt und fehlenden Widerspruch als Zustimmung gewertet. Facebook macht das ähnlich: Wer nicht will, dass Daten gesammelt werden, muss selbst aktiv werden.

Der Mensch ist ein Gewohnheitstier, und Unternehmen nutzen das aus. Gegen manipulatives Design und die Macht der Standardeinstellungen konnten bislang auch Datenschutzgesetze wie die DSGVO nichts ausrichten. Die vergangene Woche hat gezeigt, was helfen kann: journalistische Enthüllungen und öffentlicher Druck.

Zur SZ-Startseite
Mikro aus, Töne an: Persönlichkeitsrechte bei Alexa und Co wahren

Digitale Assistenten Alexa, Siri & Co.
:"Hey Google, wer hört uns noch zu?"

Wer Alexa, Siri oder Google nutzt, kann sich sicher sein, dass irgendwann ein Mensch zuhört. Aber ist das ein Skandal?

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: