Intelligenz essen Seele auf

Wer hat Angst vor der Singularität? Niemand. Noch vor kurzer Zeit kannten sehr wenige Leute mehr als die physikalische Verwendung des Begriffs – wer ihn hörte, dachte an die Grenzen unseres Raum-Zeit-Kontinuums, an den Urknall und an schwarze Löcher. Doch das ändert sich. Immer mehr, meist junge Leute verbinden den Begriff inzwischen mit Vernor Vinge, Ray Kurzweil und der These, dass künstliche Intelligenz in den nächsten Jahren an den Punkt kommen wird, da sie die menschliche Intelligenz nicht mehr benötigt, immer schnellere Weiterentwicklungen ihrer selbst beginnt und das Universum mit dem Leuchten ihres neuen Geistes erfüllt.

Angst davor hat kaum jemand. Es gab schon zu viele technologische Erlösungsgedanken. Und dieser hier ist einfach viel zu größenwahnsinnig, spinnert und weltfremd, als dass man ihn für voll nehmen könnte.

Und wenn sie kommt, die Singularität? Immerhin warnt Elon Musk immer wieder vor der Entwicklung autonom werdender künstlicher Intelligenzen – und er sollte wissen, wovon er spricht. Schließlich hat Musk neben Tesla, SpaceX und Hyperloop mit OpenAI und Neuralink zugleich auch die Entwicklung künstlicher Intelligenz und deren Vernetzung mit dem menschlichen Gehirn genau im Auge. Vielleicht sollte man also doch darüber nachdenken.

Wie Ray Kurzweil 2006 zu seiner Singularitätsthese kam, ist schnell zusammengefasst. Für ihn lässt sich die Geschichte des Universums in sechs aufeinander aufbauende Epochen unterteilen: Zunächst kam die unbelebte Materie (1): Kurzweil begreift sie als Information, die sich physikalischer und chemischer Austauschprozesse bedient. Es folgte das Leben (2): Information, die sich der DNA und biologischer Austauschprozesse bedient. Dann entstanden die Gehirne (3): für Kurzweil Information, die sich neuronaler Austauschprozesse bedient. Mit dem Menschen entstand eine neue Form der Kommunikation in Sprache, Schrift und Datenverarbeitung. Kurzweil versteht das als Information, die sich technologischer Austauschprozesse bedient (4). Vor einiger Zeit sind wir nun ins Stadium der Symbiose von menschlicher und maschineller Intelligenz getreten (5).

Diese Entwicklung soll dann binnen der kommenden zehn bis fünfzehn Jahre in einen Zustand münden, in dem die maschinelle Intelligenz nicht mehr auf den Menschen angewiesen ist (6). Computer lassen das langsame menschliche Denken hinter sich, entwickeln sich gegenseitig in immer schnellerer, sich selbst potenzierender Abfolge – was zu einer für Menschen unvorstellbaren Flut von Erfindungen in immer schnellerer und sich selbst potenzierender Abfolge führt. Für Kurzweil ist das ein Urknall der Intelligenz, für Musk ein schwarzes Loch, für beide eine Apokalypse: eine neue Welt, die die alte Menschheit zurücklässt und einen neuen Geist walten lässt.

Aber wie nah ist die Singularität wirklich? Begreift man die Operationen des menschlichen Gehirns als Rechenleistung, dann hat die Menschheit im Vergleich zu den sogenannten Supercomputern schon eine Weile das Nachsehen: Dass Taschenrechner besser im «Kopfrechnen» sind als wir selbst, ist sogar für ältere Jahrgänge eine Kindheitserfahrung – genauso wie der Umkehrschluss: Wir wissen, dass das, was wir selbst gut können, eben gerade keine bloße Rechenleistung ist.

Nun sind wir damit natürlich nicht schlauer als die Computerentwickler, die genau dieses Problem vor einiger Zeit erkannt haben. Woran sitzen sie also gerade? Eine große Rolle spielt die Hypothese, dass die Singularität erst dort möglich ist, wo Computer ein intentionales Bewusstsein auf der Grundlage eines Gespürs für die Befindlichkeit haben. Dabei gibt es offenbar vor allem ein Problem: Computer sind – wie schon das englische Wort sagt – Ausführende von Rechenleistungen; und ausführen kann man nur etwas, dessen Parameter und Ziele im Vorfeld festgelegt wurden. Auch wenn es inzwischen selbstlernende Computer gibt, die (wie Googles AlphaGo) Go auf «kreative» Weise spielen und darin eigene Strategien entwickeln können, sind sie in diesem Sinne durchaus noch Computer. AlphaGo könnte niemals einen Gedanken fassen wie: «Ich finde im Go keine Gegner mehr – vielleicht sollte ich einmal Schach spielen!» Es fehlt Computern das Gespür für den Sinn einer Situation, in der sie sich befinden, und die damit einhergehende Gerichtetheit: das intentionale Bewusstsein.

Der Kognitionsphilosoph David Chalmers spricht hier vom «hard problem of consciousness», und schon lange vor ihm hat der an frühen Computerentwicklungen beteiligte Phänomenologe Hubert Dreyfus dieses Problem aus dem Umstand hergeleitet, dass man Computer gewissermaßen von oben nach unten entwickelt hat. Sobald sie die für Menschen schwierigsten kognitiven Leistungen wie komplizierte Rechnungen erbringen könnten, so dachte man, wäre der Rest kein großes Problem mehr. Nun fallen den Menschen die höheren kognitiven Leistungen aber nur deshalb so schwer, weil sie aus evolutionärer Sicht sehr späte Anpassungen sind.

Anders als Computer, die primär auf diese Leistungen hin entwickelt wurden, sind Menschen daher auch nicht sonderlich stark im Kopfrechnen – dafür sind sie sehr gut darin, eine Treppe hinunterzugehen oder die Veränderung einer Stimmung zu erspüren. Computer umgekehrt schlagen die besten menschlichen Schach- und Go-Spieler, aber es genügt ein Blick auf den RoboCup (die Fußball-Weltmeisterschaft der Roboter), um zu sehen, dass es wohl noch Jahrzehnte dauern wird, bis eine Mannschaft humanoider Roboter in einer Kreisklasse der E-Jugend bestehen kann.

Wenn Dreyfus (und auch Chalmers) recht haben, dann liegt hier, also in der Körperlichkeit, der Emotionalität und der Sinnlichkeit, der Schlüssel zur Intentionalität und zum Leben in nicht immer klar im Vorfeld definierten Parametern. Aber wie sollen Computer dahin gelangen, dass sich ihre Daten für sie irgendwie «anfühlen», dass dem, was sie berechnen, eine intentionale Spannung zukommt – wo ihnen doch der Körper fehlt?

Die Versuche zur Lösung des Problems scheinen derzeit grosso modo in drei miteinander verbundene Richtungen zu laufen. Erstens arbeitet man an der Entwicklung einer «neuronal» funktionierenden Hardware, die dem menschlichen Gehirn nachempfunden ist oder aus der Kopplung mit ihm entstehen soll. Fruchtet diese Variante und führt sie zur Singularität, dann kommt diese plötzlich und kann etwa so verlaufen, wie Kurzweil sie sich vorgestellt hat. Bloß kann man Zweifel an seiner aufklärerischen Erleuchtungsphantasie hegen, denn die Notwendigkeit, Computer mit emotiver Befindlichkeit auszustatten, würde vor allem eines zeigen: Es wäre in diesem Szenario nicht die Rationalität, nicht die von reiner Vernunft geleitete Rechenleistung, die die Singularität bewirkte – es wäre stattdessen gerade das vermeintlich «Irrationale», das Sinnliche, Emotive und Körperliche.

Der zweite Weg zur Singularität verliefe über die Vernetzung bestehender künstlicher Intelligenzen, die – so lautet etwa der Plan des Amerikaners Ben Goertzel –, ähnlich wie Hirnregionen, weltüberspannend verbunden würden.
Der dritte Weg ist derjenige von Big Data: Schon seit einer Weile kann Software im großen Stil Daten zur körperlichen und geistigen Befindlichkeit abgreifen. Fotos, Videos und Texte in sozialen Netzwerken, Gesundheits-Apps, Bewegungsdaten, Tonaufzeichnungen von Siri und Alexa, biometrische Gesichtserkennung: All diese Daten erlauben genaue Profile von Präferenzen, Stimmungen, Gesundheitszuständen und ermöglichen es, Software menschengerecht arbeiten zu lassen.

Derselbe Vorgang lässt sich aber auch umgekehrt beschreiben, nämlich als Prozess, in dem vernetzte Maschinen sich Intentionen, Befindlichkeiten und Wünsche aneignen, zu denen sie allein (noch) nicht fähig wären. Menschen erscheinen aus dieser Perspektive als Befindlichkeitsorgan einer Maschinerie – und je mehr und je präzisere Daten sie hinterlassen, desto besser lässt sich dieses Organ nach und nach ersetzen: ein langsamerer Weg in die Singularität.

Vermutlich scheitern alle Versuche. Neurowissenschaftler wissen, wie wenig das menschliche Gehirn wirklich erschlossen ist; Philosophen wissen, wie wenig sie das Bewusstsein definieren können. Die Wette der Computerentwickler auf die Singularität ist also eine Wette auf die technische Realisierung eines Etwas, von dem man nicht weiß, wie es funktioniert – ja nicht einmal, wie man es eigentlich definieren kann.

Doch kann diese Einsicht kaum beruhigen. Denn schlimmer noch als das Gelingen einer der Strategien könnte ihr Scheitern sein: Die Geschichte der Computerentwicklung war bisher von zwei Konstanten gekennzeichnet. Erstens wurde sehr selten wirklich das hergestellt, was man herzustellen dachte. Und zweitens hatte das, was man tatsächlich herstellte, immer Konsequenzen, die man nicht vorhergesehen hatte. Insofern ist auch in puncto Singularität mit etwas Unberechenbarem zu rechnen. Mit Maschinen etwa, die sich selbst durch exponentielle Selbstentwicklung immer mehr ermächtigen könnten – während die Menschheit bestenfalls mutmaßen würde, dass die götterhaft intelligente Übermacht um nichts als eine seelenlose Leere kreist. Daran ändern ließe sich dann nichts mehr.

Der Artikel ist am 31.05.2018 unter dem Titel „Die neue Apokalypse heißt Singularität“ in der „Neuen Zürcher Zeitung“ erschienen.

Titelbild: 

| Siyan Ren / Unsplash.com (CC0 Public Domain) | Link

Bilder im Text: 

| NVIDIA Corporation / flickr.com (CC BY-NC-ND 2.0) | Link

| Fikri Rasyid / Unsplash.com (CC0 Public Domain) | Link

Redaktionelle Umsetzung: Florian Gehm