Am Montagabend schlagen Flammen durch den Dachstuhl der Kathedrale Notre-Dame. Zehntausende Pariser versammeln sich in den Straßen und sehen entsetzt dabei zu, wie das Wahrzeichen ihrer Stadt brennt. Auch Millionen Menschen im Netz verfolgen den Brand, unter anderem auf Youtube, wo Dutzende Medien die Aufnahmen in Echtzeit übertragen.
Viele Nutzer bemerken unter den Aufnahmen einen irritierenden Hinweis. In mehreren Livestreams, die zu dieser Zeit Hunderttausende Menschen sehen, blendet Youtube einen auffälligen grauen Streifen ein: "Die Anschläge des 11. September waren (...) der tödlichste Terroranschlag auf amerikanischem Boden in der Geschichte der USA." Darunter folgt ein Link auf den Eintrag über 9/11 in der Encyclopedia Britannica.
Warum verknüpft Youtube den Anschlag auf das World Trade Center mit dem Brand in Paris? Wurde das Feuer etwa von Menschen gelegt, stecken Terroristen dahinter? Dafür gibt es keine Indizien. Für den Hinweis sind Youtubes Algorithmen verantwortlich, die wohl optische Gemeinsamkeiten zwischen der Übertragung aus Paris und Videos von den Anschlägen in New York 2001 entdeckt haben. Das vermutet jedenfalls Informatik-Professor Vagelis Papalexakis im Guardian. Youtube selbst erklärt nur, dass die Funktion von Algorithmen gesteuert werde, die manchmal die falsche Entscheidung träfen. Man habe die Hinweise unter den Livestreams aus Paris entfernt.
"Bei Videos zu ausgewählten historischen und wissenschaftlichen Themen werden Nutzern unter Umständen Informationen von Dritten wie der Encyclopedia Britannica und Wikipedia angezeigt", erklärt Youtube die Funktion. "Dazu zählen beispielsweise bekannte Themen wie die Mondlandung, zu denen im Internet oft Fehlinformationen zu finden sind." Die Hinweise sollen verhindern, dass sich Falschinformationen auf Youtube verbreiten. Auf der Plattform kursieren unter anderem etliche Verschwörungstheorien zu 9/11, die Youtube durch Links auf seriöse Quellen eindämmen will. Die Hinweise werden derzeit nur für Nutzer in den USA und Südkorea eingeblendet.
"Facebook und Youtube verschmutzen die öffentliche Sphäre"
Das mag gut gemeint sein, funktioniert in der Praxis aber nicht wirklich: Das Nieman-Lab der Universität Harvard hat zahlreiche weitere Fälle gesammelt, in denen Youtubes Algorithmen Hinweise einblenden, die eher verwirren als aufklären: Was hat der Encyclopedia-Britannica-Artikel über 9/11 unter einem Video über New York aus dem Jahr 1976, dem Start der Rakete Falcon Heavy oder einem Feuer in San Francisco zu suchen?
Der Fall zeigt, wie problematisch es ist, wenn Maschinen die Informationen auswählen, die Millionen Menschen zu Gesicht bekommen. Youtube kämpft seit Jahren mit Desinformation, Propaganda und Videos, die Angst und Hass schüren. Nicht nur, dass diese Aufnahmen nicht entfernt werden - Youtubes Algorithmen empfehlen sie Millionen weiteren Nutzern aktiv und tragen so zu ihrer Verbreitung bei. Als "radikalisierend" bezeichnet Soziologin Zeynep Tufekci die Plattform deshalb: "Facebook und Youtube verschmutzen die öffentliche Sphäre und lagern die Kosten an die Gesellschaft aus."
