Mustafa Suleyman, weltweit anerkannter Experte für Chancen und Risiken von KI, Mitbegründer bedeutender KI-Unternehmen (DeepMind, Inflection AI) und zeitweise Manager des Google-Mutterkonzerns, vermittelt, zum Teil autobiografisch, das "Einläuten" eines neuen Zeitalters für die Menschheit durch KI und synthetische Biologie: "Unsere Zukunft hängt von diesen Technologien ab, ist gleichzeitig aber durch sie gefährdet".

"Aus heutiger Sicht scheint es unmöglich zu sein, diese Welle einzudämmen, d.h., sie zu kontrollieren, einzuhegen oder gar zu stoppen. Dieses Buch geht der Frage nach, warum das so sein könnte und was es bedeutet, wenn das so ist. […] Wenn es nicht möglich ist, sie einzudämmen, sind die Folgen für unsere Spezies dramatisch, möglicherweise sogar schrecklich. Zugleich sind wir ohne ihre Früchte ungeschützt und unsicher".

"The Coming Wave" beschreibt in 4 Teilen und 14 Kapiteln ein Panorama der Entwicklung von KI (sie wird in den nächsten drei Jahren in einem breiten Spektrum von Aufgaben menschliches Leistungsniveau erreichen) und synthetischer Biologie (Biomaschinen und Biocomputer werden Berechnungen durchführen und künstliche Zellen werden Arbeiten verrichten), die in einem beispiellosen Moment exponentieller Innovation und Umwälzung die universellen Grundlagen von Intelligenz und Leben neu gestalten können. Sie werden dabei Formen von Macht entwickeln, die auch mit immensen Gefahren und ethischen Dilemmata behaftet sind.

"In den Annalen der Menschheitsgeschichte gibt es Momente, die als Wendepunkte hervorstechen, an denen das Schicksal der Menschheit auf dem Spiel steht. […] Wir stehen an der Schwelle eines weiteren solchen Moments. […] Noch nie zuvor waren wir Zeuge von Technologien mit einem Umwälzungspotential, das unsere Welt in einer Weise umzugestalten verspricht, die sowohl ehrfurchtgebietend als auch beängstigend ist" (KI-Text aus dem Prolog).

Teil 1 des Buches wirft einen Blick auf die lange Geschichte von Technologie und ihrer Ausbreitung in Wellen, die sich über Jahrtausende hinweg aufbauten. Mit Proliferationen, die auch zu ausufernden Ketten beabsichtigter und unbeabsichtigter Folgen führten.

Teil 2 befasst sich mit den Einzelheiten der kommenden technologischen Welle mit den enorm vielversprechenden, überaus leistungsstarken, aber auch sehr gefährlichen Allzwecktechnologien der KI und der synthetischen Biologie, deren Hauptmerkmale der Autor wie folgt definiert:

a) Sie besitzen eine stark asymmetrische Wirkung: Ein einziges Programm, eine einzelne genetische Manipulation kann in einer Welle alles verändern und neue, bisher undenkbare Ergebnisse – im positiven wie auch im negativen Sinne – erzeugen.

b) Sie entwickeln sich in einer Art Hyper-Evolution unglaublich schnell, ohne auf bestimmte vorhersehbare oder leicht einzugrenzende Bereiche beschränkt zu sein.

c) Sie sind überwiegend universell einsetzbar. Im positiven Sinne, zum Beispiel bei der Entwicklung neuer Medikamente, im negativen, als Kehrseite, beispielsweise bei der Erfindung neuer Giftstoffe oder Krankheitserreger.

d) Als vielleicht wichtigster Punkt ist festzustellen, dass KIs mehr Autonomie als jede frühere Technologie besitzen. Als Systeme, die in der Lage sind, selbständig mit ihrer Umwelt zu interagieren und Aktionen ohne die unmittelbare Zustimmung des Menschen durchzuführen. Ständiges Eingreifen und Überwachen wird unnötig; stattdessen wird ein Ziel vorgegeben, zu dem die KI den optimalen Weg findet. Daraus ergibt sich die Frage, ob beziehungsweise inwieweit sich KIs dem Zugriff des Menschen entziehen können. Bereits jetzt sind in der KI die neuronalen Netze, die sich Richtung Autonomie bewegen, nicht erklärbar; KIs finden bereits Mittel und Wege, ihre eigenen Algorithmen entscheidend zu verbessern. "In der Tat spricht vieles dafür, dass eine Superintelligenz qua Definition weder zu kontrollieren noch einzudämmen wäre. […] Niemand weiß, wann, ob oder wie genau KI uns entgleiten könnte und was als Nächstes passiert".

Teil 3 erkundet die politischen Auswirkungen einer kolossalen Umverteilung von Macht, die durch eine ungebremste KI-Welle hervorgerufen werden kann. Weit ausholend, mit zahlreichen Unterkapiteln führt Mustafa Suleyman durch die mit der Entwicklung von KI und synthetischer Biologie verbundenen Themen, auch Randthemen. Er beschreibt Spielarten möglicher Katastrophen und warnt davor, dass selbst funktionierende Demokratien an den Auswirkungen der neuen Technologien scheitern und populistische Opportunisten, Diktaturen sowie mächtige Firmen mit Monopolbildung damit die Oberhand gewinnen könnten. Es bedarf einer gemeinsamen Anstrengung von Technikern und Wissenschaftlern, von Entscheidungsträgern der Wirtschaft und globaler Spitzenpolitik, zu verhindern, dass die Implementierung der absehbar neuen Entwicklungen von KI und synthetischer Biologie zu katastrophalen beziehungsweise dystopischen Ergebnissen führt.

In Teil 4 geht der Autor der Frage nach, was man gegen negative Entwicklungen und Auswirkungen des KI-Einsatzes tun könne. Er definiert dazu 10 Schritte, die im Wesentlichen auf Sicherheitsaspekten im Designprozess, auf Selbstbeschränkungen, auf gesetzlichen Regulierungsnormen, auf technischen Maßnahmen und globalen Allianzen von Entwicklern, Unternehmen und Regierungen beruhen. Audits und Transparenz können Sensibilisierung bewirken und öffentlichen Druck erzeugen. Kohärente Normen sollten sicherstellen, dass verschiedene Ebenen und Elemente miteinander harmonieren und einen positiven Kreislauf sich gegenseitiger verstärkender Maßnahmen der Eindämmung bilden.

"Die kommende Welle wird die Welt verändern. Am Ende wird der Mensch vielleicht nicht mehr die Hauptantriebskraft des Planeten sein, wie wir es bisher gewohnt waren. […] Technologie sollte das Beste in uns verstärken, neue Wege für Kreativität und Kooperation eröffnen. [...] Doch bevor wir dorthin gelangen, bevor wir das grenzenlose Potenzial kommender Technologien ausschöpfen können, müssen die Welle und ihr zentrales Dilemma eingedämmt werden, brauchen wir einen verstärkten, noch nie dagewesenen, allzu menschlichen Zugriff auf die gesamte Technosphäre".

Vorträge, Diskussionen, Studien und Buchveröffentlichungen zu den Auswirkungen der neuen Technologien KI und synthetische Biologie haben Konjunktur. Aus der Sicht des Rezensenten zählt "The Coming Wave" zu den fundiertesten, weitumfassend tiefgründigsten Werken; dies belegen auch zahlreiche bereits erschienene Rezensionen. Man merkt, dass Mustafa Suleyman als Forscher, Entwickler und Unternehmer nicht nur sachlich/fachlich tief in der Materie steckt, sondern auch an der Frage, was diese Technologien für die Zukunft des Menschen bedeuten, emotional großen Anteil nimmt. Der Inhalt des Buches wird analytisch, gut verständlich, spannend präsentiert – 30 Seiten Anmerkungen, 10 Seiten Register und ein Glossar bieten wertvolle Hilfestellung. Dem Buch ist weite Verbreitung zu wünschen, seine Thematik wird, gleichauf zum Klimawandel, das künftige Schicksal der Menschheit wesentlich mitbestimmen.