Übermorgen ist die Informatikerin und KI-Expertin Prof. Dr. Ute Schmid zu Gast im "Humanistischen Campus". Das Online-Format von HVD Bayern, bfg Bayern und Kortizes greift damit ein aktuelles, höchst brisantes Thema auf, das die Weltanschauung des säkularen Humanismus, die die drei Veranstalter eint, vor Herausforderungen stellen wird. Alle Interessierten sind eingeladen und aufgefordert mitzudiskutieren, die Teilnahme ist kostenfrei.

Immer mehr Arbeits- und Lebensbereiche sind von Anwendungen der "Künstlichen Intelligenz" (KI) betroffen. Dabei sind die hinter der KI steckenden Programme und Algorithmen jedoch meist undurchsichtige "Black Boxes" – üblicherweise komplexe neuronale Netze, die mit Methoden des maschinellen Lernens trainiert wurden. Für einen säkularen Humanismus, dessen Weltauffassung auf diesseitigen Werten wie Offenheit und Transparenz basiert, ist dies eine veritable Herausforderung.

Sind die Entwickler von KI-Modellen in der Lage, Eigenschaften ihrer irdischen Schöpfung noch vollständig zu durchschauen? Können sie Verzerrungen etwa durch Überanpassung vorhersehen und dagegen intervenieren? Welche Rolle spielen die Daten, mit denen die KI gefüttert wird, wenn sie auf ihre selbst befruchtende Lernreise geschickt wird? Kann die Sicherheit von Nutzern stets gewährleistet werden?

Menschliche Fachleute, etwa in der medizinischen Diagnostik oder in der Qualitätskontrolle der industriellen Produktion müssen stets in der Lage sein, Systementscheidungen nachzuvollziehen, zu verifizieren und gegebenenfalls zu korrigieren. Zumindest sie sollten verstehen, warum sich ein Assistenzsystem oder eine intelligente Haussteuerung auf eine bestimmte Weise verhält. Konsumenten sollten nachvollziehen können, warum ihnen bestimmte Produkte empfohlen und bestimmte Tarife angeboten werden oder warum bestimmte Angebote abgelehnt werden.

Was hat es mit der so genannten "dritten Welle der KI" auf sich? Im Mittelpunkt des Vortrags stehen Ansätze einer erklärbaren KI ("explainable AI, XAI"), die Entscheidungen von KI-Systemen nachvollziehbar machen sollen. Die wichtigsten Grundlagen dazu werden charakterisiert und gezeigt, für welche Ziele und Anwendungen sie jeweils geeignet sind. Neben den viel beachteten Methoden zur Visualisierung werden auch Methoden vorgeführt, die eine differenzierte Beschreibung von Systementscheidungen ermöglichen. Ein "humanistisches" Ziel des Einsatzes von KI-Systemen muss es sein, menschliche Kompetenzen nicht einzuschränken, sondern partnerschaftlich zu unterstützen. Interaktivität und Korrigierbarkeit von KI-Systemen muss stets gewährleistet sein.

Den aktuellen Forschungsstand zu diesen und ähnlichen Fragen berichtet die Direktorin des Bamberger Zentrums für KI (BaCAI), Ute Schmid, in ihrem Online-Vortrag im Humanistischen Campus von bfg, HVD und Kortizes. Das Thema des Vortrags wird im neu gestarteten BMBF-Projekt "Ethische Implikationen hybrider Teams aus Mensch und KI-System" (Ethyde) in einem interdisziplinären Team aus Verhaltensökonomie (Prof. Dr. Matthias Uhl von der Universität Hohenheim) und Künstlicher Intelligenz (Ute Schmid in ihrer Rolle als Direktorin am Bayerischen Forschungsinstitut für Digitale Transformation, Bidt) bearbeitet.

Der "Humanistische Campus" ist ein Online-Diskussionsforum des Humanistischen Verbands Deutschlands (HVD) Bayern und des Bundes für Geistesfreiheit (bfg) Bayern in Kooperation mit dem Institut für populärwissenschaftlichen Diskurs Kortizes. Die Live-Online-Veranstaltungen finden in den ungeraden Monaten an einem Donnerstag statt.