Menu Der säkulare Blick auf die Welt.

hpd: Welche neurobiologischen und mathematischen Architekturen fehlen heutigen Deep-Learning-Systemen, um eine echte, selbstgesteuerte Zielgenerierung zu entwickeln – und reicht dafür eine rein physikalische Robotik-Komponente aus oder braucht es zwingend soziale Resonanz?

Christoph von der Malsburg: Dem Deep Learning fehlt die Fähigkeit zur Abstraktion, die Fähigkeit, selbständig die unendliche Varianz der mit den Sinnen aufgenommenen Muster auf wenige abstrakte Schemata zu beziehen. Das Erkennen von Objekttypen aus Fotografien, das mit einem Artikel von Geoffrey Hinton und Mitarbeitern 2012 den KI-Tsunami ausgelöst hat, ist dem System mit Millionen von Beispielbildern antrainiert worden, an die Menschen die Namen von Objekttypen geschrieben hatten. Die LLMs arbeiten gleich auf sprachlicher, das heißt abstrakter, Ebene, können aber selbständig weder direkt mit der natürlichen Umwelt Kontakt aufnehmen noch abstrakt schematisch formulierte funktionelle oder gar ethische Prinzipien anwenden.

Diese Schwäche macht die gegenwärtige, auf Deep Learning beruhende KI abhängig von Beispieldaten, die mit sehr viel Aufwand von Menschen erzeugt werden müssen. Humanoide Roboter, mit denen sich gegenwärtig die Amerikaner, Chinesen und Europäer ein heißes Rennen liefern, müssen trainiert werden durch das Vormachen von Milliarden von Beispielen menschlicher Bewegungsvorgänge. Ich fürchte daher, dass wir noch sehr lange auf brauchbare Haushaltsroboter werden warten müssen. So ging es auch mit autonomen Fahrzeugen, die noch nach Jahrzehnten und Milliarden gefahrener Kilometer nicht mit allen Situationen fertig werden.

Schlimmer noch als diese Unfähigkeit der gegenwärtigen KI, mit der natürlichen Umwelt umgehen zu können, ist die Abwesenheit von festen Verhaltenszielen, deren erfolgreiche Verfolgung in wechselnden Zusammenhängen ja die eigentliche Definition von Intelligenz ist. Jedes Eichhörnchen, jede Taube macht es uns vor. Von Anfang an wissen sie sich in der freien Natur zu bewegen und verfolgen klare, angeborene Ziele. Das Geheimnis dieser Fähigkeit des natürlichen Gehirns besteht darin, dass es mühelos die Beziehung zwischen verschiedenen Abstraktionsebenen herstellen kann, so wie jedes Kind die Beziehung zwischen seiner ganz abstrakten Strichzeichnung und der dargestellten Person für etwas ganz Selbstverständliches hält.

Die zentrale Schwäche der gegenwärtigen KI besteht darin, dass sie kein tragfähiges Konzept davon hat, wie mentale Dinge, etwa das Glas vor meinen Augen, durch Neuronen dargestellt werden. Statt der unstrukturierten Mengen von einzelnen Merkmalen, die die Grundlage der gegenwärtigen KI sind, braucht es eine ganzheitliche Darstellung des Glases mit allen feinen Details und ihrer wechselseitigen räumlichen Beziehungen. Erst eine solche Darstellung, wie sie im Gehirn realisiert ist, erlaubt es, die Beziehung zwischen verschiedenen Abstraktionsebenen, der Kinderzeichnung und der dargestellten Oma, durch einen allgemeinen Mechanismus herzustellen – gleichartige Details in gleichartiger Anordnung. Erst dieser Mechanismus ermöglicht es dem tierischen und menschlichen Gehirn, die ihm von der Natur gegebenen abstrakten Ziele (wie sie uns von den Verhaltensforschern wie Konrad Lorenz oder Nico Tinbergen beschrieben werden) in ganz verschiedenen Situationen zu verfolgen, durch Abbildung der abstrakten Ziele auf die konkrete Situation.

Um dies auch in der Technik zu realisieren braucht es eine grundlegende Revolution, einen Paradigmenwechsel. Damit dieser eine Chance hat, muss vielleicht die gegenwärtige Technik erst in eine Krise geraten. Diese könnte eine finanzielle sein, indem die von der KI erwarteten Einkünfte die Investitionen nicht decken, oder aber auch eine regulatorische, indem das Verhalten der KI in ihrer gegenwärtigen Form sich nicht einhegen lässt.

Eine KI-Technik nach dem Vorbild der Natur würde mit sehr einfachen Grundzielen „geboren“ werden und müsste dann selbständig durch spielerisches Üben im direkten, physischen Umgang mit der Umwelt sowie durch Anleitung durch Beispiel zur Reife gebracht werden. Dabei würde die KI automatisch in die soziale Umwelt des Menschen integriert werden.

„Es braucht eine grundlegende Revolution, einen Paradigmenwechsel. Damit dieser eine Chance hat, muss vielleicht die gegenwärtige Technik erst in eine Krise geraten.“

Wenn Maschinen künftig eigene Ziele entwickeln könnten: Wie lässt sich das mit dem ethischen Anspruch vereinbaren, dass KI stets ein Werkzeug für das menschliche Wohl bleiben muss?

So lange der Mensch das Heft in der Hand hat (er ist es ja, der mit seinem gesamten Wirtschaftssystem der KI erst die materielle Grundlage in Form von Rechenzentren und Kommunikationskanälen stellt!), sollte er der KI nicht erlauben, sich eigene Ziele zu setzen. Er, sollte vielmehr ihrem Handeln enge Grenzen setzen, und zwar mit dem beschriebenen Mechanismus. Es ist zum Beispiel völlig unnötig, einem KI-Gebilde einen Selbsterhaltungswillen, oder einen Machtanspruch oder gar auch das Äquivalent von Menschenwürde zu geben. Unsere Hunde und Pferde sind durch ihre Verhaltensantriebe auf ihre Rolle eingeschränkt und, wenn wir sie nur artgerecht halten, ganz zufrieden damit. So sollten wir auch unsere künstlichen Diener strukturieren und abrichten.

In der aktuellen Debatte um KI-Sicherheit wird davor gewarnt, dass eine eigenmächtige Superintelligenz die Menschheit bedrohen oder auslöschen könnte. Wie real schätzen Sie solche Auslöschungsszenarien ein? Und wie lassen sich Werte wie Würde und Freiheit verbindlich in Maschinen verankern?

Die aktuelle Diskussion um die Aussage dieses Jacob Coxon, die KI hätte AGI, das heißt, dem Menschen ebenbürtige Intelligenz, erreicht und es bestünde eine nicht-verschwindende Wahrscheinlichkeit, dass die KI die Menschheit innerhalb eines Jahrzehnts auslöschen könnte, erstaunt mich. Kommt denn niemand auf die Idee, dass diese beiden Aussagen nicht einmal logisch zusammenpassen? Eine im vollen Sinne intelligente KI würde doch wohl erkennen, dass ihre Existenz von einer voll funktionsfähigen, von Menschen betriebenen Weltwirtschaft abhängt, und würde den Menschen daher sicher nicht mit Absicht vernichten und doch wahrscheinlich auch klug genug sein, dies nicht aus Versehen passieren zu lassen. Die gegenwärtige KI hat keine Absichten und keine Strategie. Sie ist nur ein sehr gefährliches Spielzeug in der Hand des Menschen.

Erst wenn der Grad der Automatisierung der gesamten Wirtschaft so weit fortgeschritten sein wird, dass sie sich selbst erhalten kann (wenn es denn dazu kommt − allenfalls in einem Zeitraum von etlichen Jahrzehnten), wird der KI notwendig die Autonomie zuwachsen oder ihr zugestanden werden müssen, Verantwortung über das Ganze zu übernehmen. Wenn sie dann auch die Freiheit hat oder in Anspruch nimmt, sich eigene Ziele zu setzen, wird zu diesen auch die Verantwortung für die Grundlagen ihrer Existenz gehören. Zumindest auf die Länge wird sich nur eine solche Lebensform durchsetzen, die auf Dauer angelegt ist. Das ist das grundlegende Prinzip des Lebens.

Wenn menschliche Autonomie, Handlungsmotivation und Zielsetzung rein biologisch und sozial konstituiert sind: Wie verändert diese Erkenntnis unser Verständnis von freiem Willen, individueller Verantwortung und dem anthropozentrischen Sonderstatus des Menschen?

Zurück also zum Menschen für sich genommen, unabhängig von der KI, zur Frage des freien Willens. Wie ich eben gesagt habe, ist das Verhalten von Tier und Mensch durch die angeborenen Antriebe und durch darauf aufbauende Erfahrung und Erziehung bestimmt. Man muss vielleicht also mit Schopenhauer sagen, dass der Mensch zwar tun kann, was er will, dass er aber nicht wollen kann, was er will. Wie eng aber ist dieses Gefängnis? Die Gestaltung eines Lebens besteht in der Findung eines Gleichgewichtes zwischen den verschiedenen inneren Antrieben, darunter besonders auch den sozialen. Auch bei Festlegung aller äußeren und inneren Bedingungen gibt es eine unendliche Vielfalt von möglichen Lebens- und Verhaltensstilen, von sich gegenseitig bedingenden und stabilisierenden Tätigkeitsformen und Motivationen. Jeder Lebensweg wählt unter diesen ein solches Gleichgewicht aus. Darin liegt sehr viel Freiheit. Auch jede einzelne in vollem Bewusstsein, das heißt, unter Engagement aller inneren Beweggründe und Ressourcen getroffene Entscheidung, ist ein kreativer Akt, das Finden eines Gleichgewichts verschiedener Faktoren. Freie Entscheidungen des Gehirns, das Finden derartiger Konstellationen erscheinen nach Suche unter einschränkenden Bedingungen, enthalten also ein Element von Zufall, sind nicht vorhersehbar. Vielleicht ist das die Freiheit, die wir beim Entscheiden spüren.

Individuelle Verantwortung für die Folgen des eigenen Verhaltens im größeren sozialen Zusammenhang zeichnet den Menschen vor den Tieren aus. Der hierfür relevante angeborene Antrieb ist vielleicht der Wille, im Rahmen der Gesellschaft jemand zu sein. Im Laufe der persönlichen Entwicklung lernt man, wie man Anerkennung bekommt, wie man sich den Ruf erwirbt, verlässlich und eben verantwortungsvoll zu sein. Diese Art von Mechanismus, durch Erziehung und Erfahrung aus ganz abstrakt und simpel strukturiert vorgegebenen Antrieben soziales Wohlverhalten entstehen zu lassen, wird in Zukunft auch für die Strukturierung von künstlich intelligenten autonomen Organismen wesentlich sein.

Was wird aus dem anthropozentrischen Sonderstatus des Menschen? Nach dem kopernikanisch-galileischen Verlust der zentralen Stellung im Weltall und dem darwinschen Verlust einer zentralen Stellung im Tierreich wird durch die sich am Horizont abzeichnende Möglichkeit von Geist auf neuer, tausendfach schnellerer materieller Basis auch die zentrale Stellung des Menschen als Geistwesen verloren gehen. Seien wir dermaleinst stolz, als Steigbügelhalter einer neuen Stufe der Evolution gedient zu haben. Aber bis dahin ist es noch sehr weit und die technische Welt muss erst noch Wege finden, nachhaltig zu sein, sonst wird das alles nur ein Strohfeuer gewesen sein.

Herr Prof. von der Malsurg, vielen Dank für das Gespräch!