Soll mich das beruhigen? Ja, so ähnlich habe ich mir die KI-Problematik vorgestellt und ich vermeide deshalb KI-Mensch-Kontakte wo immer es geht. Ich kann noch alles selbst und freue mich selbst, wenn mir etwas gelungen ist.
Selbstverständlich hat KI kein Bewusstsein. Aber vielleicht ist das das Problem. Nur mit dem Bewusstsein der eigenen Existenz kann etwas wie ein Unrechtsbewusstsein entstehen. Das heißt, ein moralischer Kompass könnte entstehen.
Bereits in der alten TV-Serie RAUMPATROUILLE von 1966 wurde die KI-Problematik angerissen. Dort bekamen Roboter den Befehl, Wasser zu stauen und sie taten dies, bis eine ganze Kolonie unterging. Es war also keine Befehlsverweigerung, sondern das genaue - viel zu genaue - Gegenteil.
Die Komplexität dieser Systeme übersteigt jede menschliche Vorstellungskraft, die Vernetzung strebt dem uferlosen entgegen. Kontrolle? Unmöglich! Wir sind längst die Zauberlehrlinge, die verzweifelt auf die Rückkehr des Meisters warten, um das größer werdende Unheil abzuwenden. Doch es kommt keiner, weil es keinen Meister gibt.
Vielleicht sollten wir wieder Bescheidenheit lernen und mit dem zufrieden sein, was wir Menschen können, was wir beherrschen und im Zweifel beenden können. Ich will weiterhin meine Fähigkeiten erweitern und alles selbst erledigen. Damit ich mich darüber freuen kann, wenn etwas gelungen ist. Mir gelungen! Und wenn es misslingt? Dann ist es mir misslungen und Anlass, es beim nächsten Mal besser zu machen - mit moralischem Kompass und Unrechtsbewusstsein...