Warum wir uns der Technik am Ende doch ausliefern
Das Flugzeug-Gefühl
Foto: © pixabay Pixabay License
Der Fortschritt hat längst den Turbo eingelegt. Eine seriöse Technikfolgenabschätzung ist selten möglich – und selten nimmt man sich die Zeit dafür. Am Beispiel der selbstlenkenden Autos können wir beobachten, wie wir von Technik fasziniert oder verstört, am Ende aber jedenfalls überwältigt werden.
2020. Selbstfahrende Autos gibt es seit weit über 100 Jahren. Als die Pferdefuhrwerke von selbstfahrenden Autos abgelöst wurden, waren manche entsetzt: Da fuhren diese Dinger einfach glattweg gegen eine Mauer – was mit Pferden niemals passiert wäre. Wenn so ein Gefährt einfach willenlos dahin steuert, wohin es gerade gelenkt wird, dann gute Nacht, Marie! … – Aber sie haben sich ja dann doch durchgesetzt, diese wundersamen "Automobile".
Selbstfahrende Autos, so hört man zur Zeit in Deutschland, sind doch noch Zukunftsmusik. Dafür braucht man 5G und das dauert. Die Ethikkommission tagt noch. Das sei noch nicht kompatibel. Die großen Autokonzerne müssen noch ein bisschen entwickeln und möchten derweil etwas Dividende aus alter Technik ausschütten.
Dinge passieren
Tatsächlich aber scheint es jetzt bereits technisch recht ausgereifte Lösungen zu geben. Und wann hat der Fortschritt jemals auf sinnvolle Standards oder eine Ethikkommissionen gewartet? Wann hat man je erstmal in Ruhe die Verwertungsrechte an den Daten geklärt? Man sollte es wohl tun, aber so läuft es scheinbar nicht. Die Dinge passieren, plötzlich sagt Google, Tesla, Uber oder ein noch nie gehörter chinesischer Konzern: Hier, wir sind so weit.
Aber wollen wir uns da reinsetzen? Wollen wir als Fahrradfahrer einem solchen Ding begegnen? Wollen wir unsere Kinder noch nach draußen lassen, wenn fahrerlose Lieferwagen ums Haus kurven?
Jeder schwere Unfall mit einem selbstlenkenden Auto ist ein Gruselszenario für die Bürger, für die potenziellen Nutzer – und ganz sicher auch für den Hersteller. Jemand schläft auf der Autobahn in seinem Tesla ein – ein viraler Hit. Und Uber hatte natürlich ein Riesenproblem, als eines ihrer selbstlenkenden Autos eine Radfahrerin tödlich erfasste. Die Sicherheits-Fahrerin (machen wir uns nichts vor) war nicht alert und konnte nicht schnell genug reagieren.
Hilft uns die Statistik?
Verkehrstote durch selbstlenkende Autos sind schwer hinnehmbar. Denn der Fehler eines Systems erscheint uns weniger verzeihlich als der Fehler eines Menschen. "Menschliches Versagen"? – Tragisch, aber Irren ist menschlich und in der Gesamtschau irgendwann unvermeidbar, wie eine Naturkatastrophe. Denn in Menschen und ihre Fehler können wir uns hineinversetzen, eine komplexe Maschine erscheint uns als unheimliche Black Box.
Was die Einschätzung von Risiken angeht, sind wir Menschen höchst irrational. 9/11 ist uns allen präsent, weil die Terroranschläge mit fast 3.000 Toten eigens auf starke Bilder hin konzipiert wurden. Von der Opioidkrise in den USA, mit weit über hundert mal so vielen Toten, haben wir allenfalls mal gehört. Dasselbe gilt für Fahrradunfälle mit rechtsabbiegenden LKW (grauenhaft, 2017: 13 Tote in Deutschland) oder Krankenhauskeimen (7.500 bis 15.000 Tote in Deutschland pro Jahr).
Wir haben eine paradox aufsteigende Alarmkurve in uns, die unsere Angst größer werden lässt, wenn eine Gefahr besonders spektakulär oder einprägsam ist: Krankheit, Unfall, Naturkatastrophe, Mord, Terror. Und irgendwo, eher im spektakulären Bereich einsortiert sind die Gefahren von künstlicher Intelligenz und selbstfahrenden Autos. "Operationsroboter läuft Amok!" – Was wäre das für eine Boulevard-Schlagzeile!? Wer würde sich danach noch auf den Roboter-Operationstisch legen, selbst wenn die Statistik dafür spräche?
… Aber dann kommt man ins Nachdenken
Knapp die Hälfte der Befragten einer internationalen Studie von 2017 gaben an, sich auch von Robotern operieren zu lassen, wenn diese als zuverlässig gelten. (In Deutschland waren es etwas weniger: 41 Prozent.) Diese Akzeptanz wird bei höherer Zuverlässigkeit, minimierten Eingriffen oder geringeren Kosten noch steigen. Auch bei Pflegerobotern ist die spontane Reaktion erst einmal "Pflege … what!?" – aber dann kommt man ins Nachdenken: Wenn ich dadurch weiter zuhause leben kann, wenn dadurch rund um die Uhr für mich gesorgt ist, wenn es doch deutlich billiger für mich wird …
Wir wägen also Risiken gegen Vorteile ab. Wobei die Risikoseite sich an gefühlten Wahrheiten orientiert, die Vorteilsseite an real erfahrbaren Verlockungen oder zumindest Versprechen.
Fragen wir uns also: Wie sicher müssen selbstlenkende Autos sein, bis man sie im Straßenverkehr akzeptiert? 100-prozentig? Vier mal so sicher wie Menschen? Welche Fehlerquote tolerieren wir? Wie schnell dürfen diese Autos in der Stadt fahren – 30, 50, 100 km/h? Rechnet sich die Formel "Höchstgeschwindigkeit / Verkehrstote = X" anders, wenn wir die Fahrweise programmieren können? Müssen wir wirklich vorher ethische Dilemmata lösen, mit Entscheidungen über totgefahrene Rentnergruppen versus spielende Kinder? Oder sagen wir irgendwann: Das gestalten wir nicht mehr? Das lassen wir geschehen, wie es kommt, weil die Vorteile uns wichtiger sind?
Eine Prognose
Ich denke, wenn selbstlenkende Autos auch im "Mischverkehr" fünf- bis zehnmal so sicher sind wie menschengesteuerte und wenn die Unfälle aus den Nachrichten verschwunden sind, dann wird es für den rechnergesteuerten Individualverkehr kein Halten mehr geben.
Und dann wird es erst richtig spannend. Denn unsere Städte von heute sind an die egoistischen, abgelenkten und konfusen Autofahrer*innen von heute angepasst. An Menschen, die Verkehrsschilder ignorieren und Kreuzungen nur mit Ampelsteuerung überwinden können. Irgendwann geht es auch anders – und das Bild unserer Städte wird sich verändern. Und vielleicht nicht mal zum schlechteren.
Wie wäre es, wenn man mittelgroße Straßen ohne Ampel oder Zebrastreifen gefahrlos passieren könnte? Manche Leute werden die Roboterautos mobben und zu abrupten Manövern zwingen. Geschäftsleute werden ein paar Extrarunden drehen, um die Videokonferenz nicht zu unterbrechen oder Liebespaare, um noch ein bisschen zu knutschen. Geteilte Robotaxis könnten das Verkehrsaufkommen reduzieren, wenn wir denn bereit wären, sie zu nutzen. Wahrscheinlicher ist, dass wir leere Autos im Stau sehen, die die Kinder von der Schule abholen. Autos müssten kaum noch beschleunigen und bremsen, weil sie von einem Algorithmus vorausschauend gesteuert werden. Vielleicht würden sie auch das Kunststück beherrschen, wie die Radfahrer in Groningen zu fahren: mit allen Ampeln auf grün.
Und wir? Wir werden uns fühlen wie im Flugzeug. Ein wenig ausgeliefert, aber letztlich alltäglich. Es wird schon gut gehen.
Übernahme mit freundlicher Genehmigung von digitalhumanrights.blog.
Kommentare (6)
Netiquette für Kommentare
Ich finde es immer wieder
Ich finde es immer wieder faszinierend wie schnell sich die Medien darauf stürzen wenn ein autonom fahrendes Auto einen Unfall baut. Den Menschen am Steuer scheint man ein gewisses Risiko zu akzeptieren. Sobald die Autos autonom fahren müssen sie fehlerfrei sein. Ich sehe wohl die Chance bei autonomen Autos die Risiken zu minimieren. Am Ende sind es noch Programmierfehler die die größten Risiken hervorrufen. Was mich am meisten bei den Diskussionen stört ist die fehlende Verhältnismäßigkeit. Autonome Systeme müssen perfekt funktionieren, aber wenn ein Mensch am Steuer ist fühlen sich die meisten anscheinend wohl, auch wenn der Mensch in den meisten Situationen unberechenbarer reagiert, wenn er überhaupt den Willen hat die Verkehrsregeln zu befolgen. Und was die ethischen Fragen angeht. Ich habe diese Diskussion schon lange verfolgt. Was bei der Diskussion allerdings, meiner Meinung nach, nicht beachtet wird - der Computer hat die Fähigkeit aufgrund der überlegenden Geschwindigkeit der Prozessoren, abzuwägen was in einer gewissen Situation zu tun ist. Ob die Algorithmen jemals die Ethiker zufriedenstellen sei dahin gestellt. Ein Fakt ist aber auch das ein Mensch am Steuer in den meisten Fällen nicht schnell genug reagieren kann um eine „ethische“ Entscheidung zu fällen. Häufig ist der Mensch wahrscheinlich derart überfordert, dass er mehr Schaden anrichtet als nötig gewesen wäre. Wenn man also dem Menschen am Steuer eine gewissen Fehlertoleranz zugesteht sollte man einen ähnlichen Spielraum auch den autonomen Autos gewähren.
Von hundert Menschen fahren
Von hundert Menschen fahren nicht alle im selben Stil Auto, aber ein Programmierfehler in hundert Autos, kann denn wohl verheerende Folgen haben.
Das ist richtig. Deshalb sind
Das ist richtig. Deshalb sind ausgiebige Test vor der Zulassung wichtig. Diese sollten heute schon bei jedem neuen Modell und bei jedem Softwareupdate selbstverständlich sein. Für mich interessant ist besonders die Sorge vieler wie ein Automat in gewissen Situationen entscheidend. Die Frage nach welchen ethischen Grundsätzen der Automat entscheidet wer überlebt und wer sterben muss, wenn es keinen anderen Ausweg gibt. Bei einem Menschen am Steuer muss man in solchen Fällen oft davon ausgehen dass er nicht schnell genug reagieren kann und so am Ende der Zufall entscheidet. Außerdem gibt es in der KI und der Programmierung immer besser werdende Systeme die den Code eigenständig auf Fehler überprüfen. Ich sehe gerade in diesem Feld noch sehr viel Potenzial.
Wofür leben wir eigentlich
Wofür leben wir eigentlich noch? Um uns herumkutschen zu lassen? Um das Maß an Passivität zu steigern? Oder macht Aktivität den Menschen aus? Will er Herausforderungen meistern können? Will er sich vielleicht einer selbst erbrachten Leistung erfreuen?
"Fortschritt" - was ist das?
"Fortschritt" - was ist das?
Ich bin dabei, mich von dem Begriff zu verabschieden.
Naja, die Entwicklung
Naja, die Entwicklung „schreitet fort“, wie immer man das nun bewertet. Aber es stimmt: „Fortschritt“, „progressiv“ etc. ist immer sehr positiv konnotiert gewesen, aber wenn man drüber nachdenkt kein Wert an sich.