In dem Science-Fiction-Roman "Die drei Sonnen" von Cixin Liu bedroht die hoch entwickelte außerirdische Zivilisation der "Trisolarier" die Erde. Sie kennen alle unsere Aufzeichnungen und alle unsere Kommunikationen. Damit sind sie uns immer einen Schritt voraus. Heute und in der Wirklichkeit unserer Erde sind wir selber unsere eigene Bedrohung. Denn Facebook hat gerade ein Forschungsergebnis bekannt gemacht, das Wissenschaftler in der Zeitschrift Nature Communications publiziert haben. Demnach ist es den von Facebook unterstützten Forschern das erste Mal gelungen, in Echtzeit Wörter aus einer Beobachtung der Gehirnaktivität abzuleiten. Ein Gehirn denkt Begriffe, ein überwachender Computer schreibt diese Wörter auf. Es scheint also: Das Logo unserer Trisolarier ist blau und trägt ein weißes "F". Die Frage lautet: Werden wir mit dieser Entwicklung zurechtkommen?
Die Trisolarier im Roman sind dazu in der Lage, jede Kommunikation und alle Information der Menschheit abzuhören und in Echtzeit in ihre Welt zu übertragen. Alles, was je aufgezeichnet wurde und was gesprochen wird, ist sofort für die Feinde offenbar. Zusätzlich stören sie die naturwissenschaftliche Grundlagenforschung, damit die Menschheit nicht zu den Trisolariern aufschließt. Durch die technische Überlegenheit sind die Menschen den Außerirdischen hilflos ausgeliefert.
Allerdings gibt es einen fundamentalen Unterschied zwischen Trisolariern und Menschen: Trisolarier sind füreinander völlig transparent, Subjektivität ist ihnen unbekannt. Dies macht ihre grenzenlose Kooperation möglich - sie ist der Schlüssel für die technische Überlegenheit der Aliens. Privatheit ist als Konzept nicht bekannt, jeder Gedanke ist öffentlich. Wahrhaftigkeit ist gar keine Kategorie, weil es das Gegenteil, Manipulation, Lüge und Halbwahrheit, gar nicht geben kann.Für die Menschen dagegen ist die intransparente subjektive Perspektive, mit der wir andere und die Welt erfahren, eine Grundlage unserer Zivilisation. Wie ich einen Sonnenuntergang erlebe, ist für andere nicht vollständig nachvollziehbar. Wir sind voneinander isolierte Gehirne mit eigenen Bewusstseinen und subjektiven Erlebnissen. Wir können unsere Gedanken verbergen, auch das macht Menschen aus.
Eine bewusstseinsfähige Maschine kann es gar nicht geben
Thomas Nagel hat in seinem Aufsatz aus dem Jahr 1974 "Wie fühlt es sich an, eine Fledermaus zu sein?" gezeigt, dass man selbst dann, wenn man alle naturwissenschaftlichen Parameter einer Wahrnehmung kennt (im Beispiel: das Fliegen mit Echoortung), nie wissen kann, wie es sich anfühlt, eine Fledermaus zu sein.
Die Diskussion um die subjektiven Erlebnisgehalte eines mentalen Zustandes, die sogenannte Qualiadebatte in der Philosophie des Geistes, ist differenziert. Nicht alle sind der Meinung, dass Geist mehr ist als ein Effekt, den man naturwissenschaftlich nur aus seiner Materie heraus erklären kann. Doch spielt die Kritik an diesem Reduktionismus, der den Menschen auf physiologische Prozesse reduziert, eine Rolle in der Debatte um künstliche Intelligenz: Selbst wenn der Computer ein Bewusstsein perfekt simulieren kann, hat er doch keine eigenen mentalen Zustände. Eine bewusstseinsfähige Maschine kann es also gar nicht geben.
Im erwähnten Science-Fiction-Roman ist dieser Unterschied zwischen Menschen und Außerirdischen sogar der Schlüssel dazu, wie die Menschen sich gegen die Trisolarier wehren. Diese verstehen ja das Konzept nicht, Gedanken vor anderen zu verbergen und im Verborgenen planen zu können. Das rettet im Roman die Menschheit.
Mittlerweile nehmen Forschungen an Gehirn-Maschine-Interfaces wie in der oben genannten Studie Fahrt auf, invasive wie nicht-invasive Methoden ohne Chipimplantate werden getestet.
Die ethischen Probleme der Gehirn-Computer-Schnittstellen sind dramatisch
Bei Facebook, aber auch andernorts wird diese Forschung betrieben, um Steuerungssysteme für digitale Geräte zu entwickeln: Durch bloßes Denken sollen wir dann kleine und große Geräte steuern können. Die Technologie, an der auch Elon Musks Firma Neuralink arbeitet, soll Wunder im positiven Sinne bewirken können: Menschen, die nicht sprechen können, sollen damit wieder Kontakt zu ihrer Umwelt aufnehmen - fantastisch!
An der TU München arbeiten Forscher im Bereich "Neuroengineering" an der Möglichkeit, Roboter durch die Beobachtung von Gehirnwellen menschlicher Interaktionspartner erkennen zu lassen, ob sie selber gerade Fehler machen. Menschen sind verstört, wenn in der Mensch-Maschine-Interaktion der Roboter fehlerhaft agiert. Diese Irritation des Menschen manifestiert sich in spezifischen Hirnwellen, die Roboter scannen können, um so zu merken, dass sie etwas falsch machen.
Einen anderen Ansatz wählt eine Gruppe junger Forscher am MIT Media Lab: Arnav Kapur hat dort ein Interface erfunden, das über die Beobachtung von winzigen neuromuskulären Impulsen an den Sprachapparat Wörter entschlüsselt, die wir bloß denkend sprechen. Unsere internen Selbstgespräche können also von diesem System aufgezeichnet und bei Bedarf wieder abgerufen werden. Auch hier ergeben sich bahnbrechende Anwendungen für beispielsweise Schlaganfallpatienten, da die Mikroimpulse auch bei diesen Personen noch unverändert funktionieren können. Interessant ist dann auch, dass man per Selbstgespräch in Konferenzen Notizen machen kann oder ungestört und unsichtbar, ohne echte Stimme und ohne einen Finger zu bewegen, Kurznachrichten umherschicken oder mit dem Partner chatten kann. Dieses System heißt "Alter Ego" und wird von seinem Erfinder angepriesen als "eine intelligentere Version unseres Selbst in uns selbst".
Während also Ingenieure versuchen, das Gehirn von außen den Computern zugänglich zu machen, kommen ihnen die Chiphersteller quasi von der anderen Seite entgegen: Intel arbeitet an Prozessoren, die wie das Gehirn funktionieren. Damit können Maschinen einfacher mit und wie Menschen agieren. Diese Prozessoren werden lernende und autonom agierende Computersysteme leistungsfähiger machen.
Die ethischen Probleme dieser Gehirn-Computer-Schnittstellen sind dramatisch: Sie betreffen unser Wesen als bewusstseinsfähige Individuen, die miteinander sprachlich und symbolisch kommunizieren müssen, um zu kooperieren. Wo Maschinen unsere Gedanken wirklich lesen können, liegen diese offen - und lassen sich etwa für Kaufanreize oder politische Beeinflussung nutzen. Die Facebook-Forscher betonen, dass ihnen die Privatheit am Herzen liege. Aber erstens hat Facebook wirklich jede Glaubwürdigkeit in Sachen Privatsphäre schon lange verloren, und zweitens geht es um mehr: Es geht um die Abschaffung der Privatheit in ihrem ureigensten Revier. Es geht um unsere mentale, bislang als unantastbar geltende Privatsphäre. Es geht um das Recht, wie es Sigal Samuel auf vox.com formulierte, zu bestimmen, wo unser Selbst endet und wo die Maschine anfängt. Die Gefahr besteht, dass wir mit Gehirn-Computer-Interfaces die Grenze zwischen unserem Bewusstsein und den Maschinen öffnen.
Steht also eine Kultur transparenter Gedanken bevor? Angesichts der Erfolge der großen Daten- und KI-Firmen, uns anhand unserer Lebensäußerungen zu verstehen und zu lenken, scheint diese Entwicklung nur folgerichtig. Unsere Gehirne mit unseren privaten Gedanken sind die allerletzte Bastion. Unsere Gehirne sind noch der Heilige Gral für Unternehmen im Zeitalter des Überwachungskapitalismus. Wer schafft es zuerst, unsere Gehirnaktivitäten wirtschaftlich nutzbar zu machen?
Noch ist die Technik rudimentär entwickelt. Wir haben noch etwas Zeit, uns die Folgen zu veranschaulichen und eine rechtliche Regulierung auf den Weg zu bringen. Wir müssen aber jetzt damit anfangen. Nicht weil die Trisolarier vor der Tür stehen, sondern weil Firmen aus bloßem Profitinteresse begonnen haben, sich für unsere Subjektivität und unser Innenleben zu interessieren.
Der Autor ist Professor für Medienethik an der Hochschule für Philosophie München und sachverständiges Mitglied der Enquete-Kommission des Deutschen Bundestages zu Fragen der künstlichen Intelligenz.
