Es gehe zu Ende. Mit dem Menschen, mit der Welt: Das ist die grosse Geschichte, die Yuval Noah Harari seit Jahren erzählt. Im neuen Buch «Nexus» nimmt er sich die künstliche Intelligenz vor.
Am Schluss hat er doch noch eine gute Nachricht bereit. Oder wenigstens eine Hoffnung. Auf der vorletzten Seite seines neuen Buches schreibt Yuval Noah Harari, vielleicht werde es trotz allem nicht so schlimm, wie er es beschrieben habe, und die Zerstörung der Menschheit lasse sich aufhalten. Wenn die Menschen einen Weg fänden, die Mächte, die sie geschaffen hätten, in Schach zu halten.
Nach fast sechshundert Seiten, in denen die Geschichte der Menschheit als Abfolge von Entdeckungen, Erfindungen und Eroberungen geschildert wird, die den Menschen an den Rand des Abgrunds gebracht haben, ist das ein schwacher Trost. Vor allem, weil der Mensch allein schuld ist an der Misere. Und weil nur er sich helfen kann. Gott ist tot, an die Götter, die in den antiken Mythen die Welt wieder in Ordnung bringen, wenn sie durcheinandergeraten ist, glaubt auch niemand mehr. Einen Hexenmeister, der dem Lehrling zu Hilfe eilt, gibt es sowieso nicht. Wir sind unsere eigenen Hexenmeister. Weil wir uns zu unseren eigenen Göttern gemacht haben, würde Harari sagen.
Da klingt die Zuversicht fast vermessen, der Mensch könnte sich am eigenen Schopf aus dem Sumpf ziehen. Dafür hätte er in den vergangenen hunderttausend Jahren genug Zeit gehabt. Gründe, den ins Verderben gleitenden Wagen wieder auf den rechten Weg zu bringen, hätte es auch gegeben. Und die Mittel dazu gab sich der Mensch, das findigste von allen Lebewesen, selbst an die Hand. Aber er verstand es nicht, sie zu nutzen. Oder nutzte sie falsch.
Das ist die grosse Geschichte, die Harari seit Jahren erzählt: Es geht zu Ende. Mit dem Menschen, mit der Welt. Weil der Mensch die Grenzen überschreitet, die ihm gesetzt sind. Und weil er sich damit selbst überflüssig macht. Davon erzählt auch das neue Buch. Aber mit erhöhter Dringlichkeit. Denn jetzt steht die Menschheit für Harari vor einer grossen Entscheidung. Und ist darauf und daran, einmal mehr einen verheerenden Fehler zu begehen.
In «Nexus» warnt der israelische Historiker vor den Gefahren der künstlichen Intelligenz. Sie ist für ihn die grösste Bedrohung, der die Menschheit je gegenüberstand. Weil die Art, wie wir KI nutzen, nicht darüber entscheidet, wie unsere Zukunft aussieht. Sondern darüber, ob die Menschheit überhaupt noch eine Zukunft hat.
Berater der Mächtigen
Wie Hararis vorangehende Bücher «Eine kurze Geschichte der Menschheit» (2013) und «Homo Deus. Eine Geschichte von Morgen» (2017) ist auch «Nexus» im Grunde kein historisches Buch, sondern ein Pamphlet. Da spricht nicht der Geschichtsprofessor der Hebräischen Universität Jerusalem, sondern ein belesener, historisch bewanderter Prophet, der sieht, wie es mit dem Menschen zu Ende geht. Der aus der Geschichte zu erklären versucht, warum es zu Ende geht, und weiss, was dagegen zu tun wäre. Und sich wohl auch bewusst ist, dass es das Schicksal von Propheten ist, nicht gehört zu werden.
Obwohl, darüber kann sich Harari eigentlich nicht beklagen. Seine Bücher wurden in über sechzig Sprachen übersetzt und mehr als fünfundvierzig Millionen Mal verkauft. Das hat noch kein Historiker geschafft. Allein «Eine kurze Geschichte der Menschheit» erreichte eine Auflage von fünfundzwanzig Millionen Exemplaren. Die Mächtigen der Welt ziehen Harari als Consultant hinzu, Barack Obama empfiehlt seine Bücher, Angela Merkel und Emmanuel Macron trafen sich mit ihm, um über die Probleme der Welt zu reden. Mark Zuckerberg und Bill Gates fragen ihn um Rat, und am World Economic Forum gehört Harari zu den gerngesehenen Gästen.
Dass seine Bücher vonseiten der Wissenschaft zum Teil scharf kritisiert werden, spielt da keine Rolle. Den von Neurowissenschaftern und Informationstheoretikern erhobenen Vorwurf, er picke sich aus Naturwissenschaften und Computertechnologie Fakten und Ideen heraus, die seine Thesen stützten, und unterwerfe sie seiner grossen Erzählung, auch wenn sie widerlegt seien, lässt er nicht gelten. Und dass er ein stark vereinfachendes Menschenbild propagiere, das den Menschen darauf reduziere, ein datenverarbeitendes System zu sein, das nach Algorithmen arbeite wie ein Computer, pariert er mit dem Hinweis, das entspreche den in den Life-Sciences zurzeit vorherrschenden Theorien.
Das stimmt nicht ganz, aber darauf kommt es Harari auch nicht an. Ihm geht es darum, seine Vorstellung vom Menschen als «hackable animal» zu untermauern. Wir hätten noch nicht verstanden, ist er überzeugt, was es bedeute, dass Firmen und Staaten mehr und mehr über Technologien verfügten, die es erlaubten, nicht nur Computersysteme, sondern auch Menschen zu «hacken». Das heisst: Menschen aufgrund ihrer digitalen Gewohnheiten vollständig zu durchschauen. Das werde dazu führen, dass man früher oder später die Wünsche, Ängste und Gedanken jedes Menschen ermitteln werde und das, was er tun werde, antizipieren könne.
Der Computer Mensch
Möglich ist das, weil der Mensch für Harari letztlich auch nur ein Computer ist, der nach festen Gesetzmässigkeiten funktioniert. Und weil die Welt, die menschliche Gesellschaft, Tiere, die Natur nichts anderes als ein Informationsnetzwerk oder ein komplexes System von Netzwerken sind, die Daten aus der Umwelt aufnehmen, Entscheidungen treffen und in Form von Daten weitergeben. Das nimmt Vorstellungen auf, wie gewisse Gurus des Silicon Valley sie propagieren. Und daraus speist sich Hararis Überzeugung, die künstliche Intelligenz werde unsere Zivilisation zerstören, wenn wir nicht rechtzeitig gegensteuerten.
Denn der Schritt zur KI, darauf pocht Harari, sei nicht mit den technischen Revolutionen vergleichbar, die den Gang der Geschichte in vorhergehenden Jahrhunderten verändert hätten: der Erfindung der Tontafeln in Mesopotamien zum Beispiel, der Einführung des Buchdrucks oder des Fernsehens.
Der entscheidende Unterschied besteht für Harari darin, dass alle bisherigen Informationsnetzwerke nur Instrumente waren. Sie verbreiteten Informationen. Aber diese waren vom Menschen bestimmt – ob es Nachrichten, Mythen, Warenlisten oder Unterhaltungssendungen waren. Nun können Computer selbst Texte verfassen, selbst Informationen recherchieren und verarbeiten – und Entscheidungen fällen.
KI kann sich selbst organisieren und ist in der Lage, eigene Informationsnetzwerke zu schaffen. Ohne Menschen. Damit, so Harari, werde die Maschine die Deutungshoheit über die Information übernehmen und darüber entscheiden, was als richtig und falsch gelte. Der Mensch ist ausgeschaltet. Vielleicht, schreibt Harari, würden die entscheidenden politischen Fronten im 21. Jahrhundert nicht zwischen Demokratien und Autokratien verlaufen, sondern zwischen menschlichen und computerbestimmten Netzwerken.
In diesem Kampf könnte sich der Mensch womöglich sogar behaupten, so muss man Harari wohl verstehen. Nur zeigt die Geschichte, dass es ihm bisher noch nie gelungen ist, die Informationsnetzwerke, die er geschaffen hat, ganz zu beherrschen. Der Buchdruck, so Harari, habe es zwar erlaubt, wissenschaftliche Fakten zu verbreiten. Aber eben auch Fake News.
Die industrielle Revolution, auch sie dient Harari als Beispiel, machte den Weg frei für die Entstehung neuer Gesellschaften, die wohlhabender und friedlicher hätten sein können. Sie habe aber, so Harari, zunächst vor allem zum ausbeuterischen Kolonialismus der westlichen Länder geführt, weil diese überzeugt gewesen seien, nur so ihre Abhängigkeit von ausländischen Märkten und Rohstoffen befriedigen zu können.
Was Information wirklich ist
Mit Kurzschlüssen wie diesen untermauert Harari seine These, dass die Menschen dem Untergang nur entgehen könnten, wenn sie ihr naives Verständnis von Information überwänden. Ein Verständnis, das davon ausgeht, dass Informationsnetzwerke dazu da seien, Wahrheit zu transportieren, die sich bei den Menschen als Erkenntnis niederschlage. Stattdessen muss sich laut Harari ein «komplexes Informationsverständnis» durchsetzen. Dieses erkennt, dass Information Wahrheit schaffen kann, aber in erster Linie Ordnung schafft. Und damit auch ein Mittel ist, Macht auszuüben.
Wirklich überraschende Zusammenhänge sind das nicht, aber Harari vertritt sie so, als hätte er sie als Erster erkannt. Denn er will warnen: KI müsse als Form von Intelligenz verstanden werden, für die es in der Geschichte bisher kein Beispiel gegeben habe, sagt er. Eine Intelligenz, die selbständig handelt, ohne Bewusstsein, geschweige denn Gefühle zu haben.
Der Mensch, schreibt Harari am Ende seines Buchs, habe ein Instrument geschaffen, das, wenn er es nicht richtig handhabe, «nicht nur die menschliche Herrschaft auf der Erde» auslösche, «sondern auch das Licht des Bewusstseins selbst und damit das Universum in ein Reich völliger Dunkelheit» verwandle. Das klingt apokalyptisch. Und ist bezeichnend für den Grundton, der das Buch durchzieht: das Licht des Bewusstseins, das Reich der Dunkelheit – und in einem abgelegenen Winkel des Universums der Mensch, der mit den Geistern kämpft, die er gerufen hat, aber nicht mehr loswird.
Man folgt Yuval Noah Harari mit einem gewissen Vergnügen durch seine Exkurse, die von der Steinzeit bis in die digitale Zukunft führen. Man wird von Schauder ergriffen angesichts der Weite des Blicks, der das ganze Universum umfasst und Geschichte nach Äonen misst. Und wird Harari zustimmen, dass die Entwicklung der KI kritische Aufmerksamkeit verlangt. Das hat man allerdings nicht erst von ihm gehört. Und was wir konkret tun könnten, sagt uns Harari nicht. Ist wahrscheinlich auch nicht seine Aufgabe. Der Seher warnt, das genügt. Um die praktischen Belange sollen sich andere kümmern.
Yuval Noah Harari: Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz. Aus dem Englischen von Jürgen Neubauer und Andreas Wirtensohn. Penguin-Verlag, München 2024. 655 S., Fr. 39.90.
