Doris Allhutter erforscht den Einsatz technischer Systeme bei der Verteilung von Sozialleistungen. Darüber steht die Frage: Führen KI und Daten zu einer gerechteren Gesellschaft – oder einzig zu mehr Effizienz?

Wie stellen Sie sich einen modernen Sozialstaat vor? Die Technikforscherin Doris Allhutter kennt die gängigste Antwort. "Aktuell", sagt sie, "stellen wir uns die Modernisierung des Sozialstaates durch die Einführung technischer Systeme, durch Daten und durch KI vor. Darüber stehen oft Leitbilder, die nicht das menschliche Wohlergehen, sondern die Effizienz der Verwaltung in den Vordergrund stellen."

Die öffentliche Hand – von der Arbeitsvermittlung über den Gesundheits- und Sozialversicherungsbereich bis hin zur Stadtverwaltung – versucht, Services für Bürger:innen treffsicherer zu machen. Dafür setzen viele Organisationen und Institutionen auf das Sammeln von Daten und auf automatisierte Prozesse, die auf neuen Technologien beruhen. "Es gibt eine weite Bandbreite: von einfachen Systemen, die überprüfen, ob alle Daten in Anträgen vorhanden sind, über Chatbots und den Aufbau von Dateninfrastrukturen bis zum Einsatz von KI", erklärt Allhutter, die am Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) arbeitet.

Was bedeutet das nun für uns Bürger:innen? Dieser Frage geht Allhutter mit europäischen Kolleg:innen im Forschungsprojekt "Die Automatisierung von Wohlfahrt" (AUTO-WELF) nach, das vom Wissenschaftsfonds FWF gefördert wird. Das interdisziplinäre Team erforscht die Länder Österreich und Deutschland, Italien und Portugal, Estland und Polen sowie Dänemark und Schweden. Jedes Länderpaar repräsentiert ein sogenanntes "Wohlfahrtsregime". Hierzulande ist dieses konservativ-korporatistisch geprägt. Das bedeutet, Sozialleistungen sind stark an die Erwerbstätigkeit geknüpft. Soziale Ansprüche von Partner:innen, die sich der Familien- und Pflegearbeit widmen, sind in vielen Fällen nur davon abgeleitet, erklärt Doris Allhutter.

Wo kommen welche Systeme zum Einsatz?

Die Art automatisierter Systeme und deren Verbreitung sind in den Ländern und deren Regionen sehr divers. Dennoch beobachteten die Forschenden über Europa verteilt ähnliche Entwicklungen. "Erst wurden technische Systeme in einzelnen Bereichen eingesetzt: Viele Länder versuchten etwa, Arbeitssuchende in Gruppen aufzuteilen. Dadurch wollten sie herausfinden, welche Unterstützung sie benötigen", so Allhutter. Ein Beispiel dafür ist der Algorithmus, den das österreichische Arbeitsmarktservice (AMS) einzusetzen plante. Ein anderer Einsatzbereich ist der Versuch, datenbasiert "Wohlfahrtsbetrug" aufzudecken.

Im Rahmen von AUTO-WELF eruieren die Forscherteams, welche Systeme aktuell eingesetzt werden. Näher erforscht werden pro Land zwei Systeme: eines im Bereich der Kernsozialleistungen und eines in der kommunalen Wohlfahrt, beispielsweise der Stadtentwicklung. "Wir untersuchen, wie die Systeme funktionieren – sprich, welche Daten fließen ein, wie werden sie zueinander in Beziehung gesetzt und wofür sollen sie eingesetzt werden", erklärt Allhutter.

Alles für die Effizienz

Allhutter und ihr Team interviewten Entwickler:innen, Entscheidungsträger:innen und Sachbearbeiter:innen in österreichischen öffentlichen Institutionen. So bekamen sie Einblicke in die technische Entwicklung, den beabsichtigten Nutzen und mögliche Probleme in der Anwendung der Systeme.

"Viele zielen darauf ab, Arbeitsabläufe und Entscheidungen zu beschleunigen", sagt Allhutter. Vor allem regelbasierte Systeme können Prozesse effizienter machen, etwa indem sie automatisch überprüfen, ob Anträge korrekt ausgefüllt wurden. "Diese Systeme arbeiten allerdings nur mit einer begrenzten Anzahl an Parametern." Soziale Verhältnisse hingegen seien komplex und ließen sich nicht so leicht in Computersystemen abbilden, wendet die Forscherin ein. Mit dem Ergebnis, dass datenbasierte Systeme Entscheidungen nicht zwangsmäßig objektiver und gerechter machen.

Ungleichheiten inklusive

Zugleich spiegeln Daten gesellschaftliche Ungleichheiten wider, wie man aus der Forschung weiß. Der AMS Berufsinformat schlug etwa Frauen vermehrt Berufe wie Friseurin oder Modehändlerin, Männern hingegen solche in der IT vor. Die Trainingsdaten, die der KI-basierte Chatbot erhielt, waren voller solcher stereotypen Zuschreibungen. Das AMS musste die Anwendung überarbeiten lassen. Das zeigt: Der Einsatz technischer Systeme kann unerwünschte Folgen haben, in dem er Ungleichheiten fortsetzt.

Der Algorithmus SyRI (System Risk Indication) der niederländischen Regierung ist ein weiteres, extremeres Beispiel dafür, wie technische Lösungen "falsche" Ergebnisse ausspucken können. Gespeist mit Bevölkerungsdaten wurde es unter anderem eingesetzt, um aufzudecken, welche Familien unrechtmäßig Beihilfe bezogen. SyRI überprüfte vermehrt Familien mit Migrationshintergrund, die dann ungerechtfertigt die Beihilfe zurückzahlen mussten. Viele schlitterten dadurch in die Armut – und erfuhren erst Jahre später, warum.

Doris Allhutter sagt dazu: Damit Ungleichheiten sich nicht verstärken, braucht es einen rechtlichen und institutionellen Rahmen, regelmäßige Überprüfungen und Möglichkeiten der Einsichtnahme durch die Bürger:innen.

Die Folgen für Organisationen, Städte und Sozialstaat

"Wir interessieren uns für die Folgen des Einsatzes dieser Systeme. Das geht bis hin zu der Frage, wie sich Sozialpolitik verändert, wenn wir Daten sammeln. Auf dieser Basis wollen wir Modelle entwerfen, um herauszufinden, welche Maßnahmen gut funktionieren", erklärt die Forscherin. Neue technische Systeme können Organisationen verändern, indem etwa eher Menschen mit technischen Kenntnissen eingestellt werden, um diese zu bedienen.

Auch Regionen, Städte und Gemeinden sammeln Daten – allerdings nicht über einzelne Personen, sondern etwa über Populationsdichte, Klima- und Umweltfaktoren. Viele versuchen diese auch zu nutzen, sagt die Technikforscherin: "Wir beobachten gerade den Trend, dass Städte sogenannte digitale Zwillinge erstellen." Solche Stadtmodelle können positive Effekte haben: "Mit diesen Modellen lassen sich auch Ungleichheitsverhältnisse darstellen. Das kann helfen, Schritte zu setzen, um die Verhältnisse zu verbessern." Ungleichheiten können sozialer Natur sein – etwa schlechtere Luftqualität in gewissen Stadtteilen.

Damit datenbasierte Modelle und technische Lösungen positive Veränderungen anstoßen, sei es wichtig, dass die Menschen, die es letztendlich betrifft, mitentscheiden dürfen, wo sie eingesetzt werden, plädieren die Wissenschaftler:innen. Auch aus diesem Grund führen die Forschungsteams Workshops mit der Bevölkerung durch. In Österreich gibt es etwa im September 2024 im Rahmen des Ars Electronica Festivals in Linz die Möglichkeit, sich mit den Forschenden auszutauschen. "Wir wollen herausfinden, was die Bürgerinnen und Bürger wirklich vom Sozialstaat und ihrer Stadt wollen, wenn man von Vorstellungen der Effizienz weggeht", erläutert Allhutter.

Die nächsten Schritte

Ende Oktober 2025 wird AUTO-WELF abgeschlossen sein. Neben den Gesprächen mit den Bürger:innen werden die Forschenden dann die internationalen Fälle auch im Ländervergleich analysiert haben. Und zusätzlich zu den Forschungspapers werden sie auch politische Handlungsempfehlungen für die einzelnen Länder verfassen.

Die vermeintliche Tatsache, dass Sozialstaaten zu wenig Geld zur Verfügung haben, lasse sich nicht einfach auf höheren Bedarf zurückführen, sondern auf die Verteilung von Ressourcen, betont Allhutter. Was sollte also ihrer Ansicht nach einen modernen Sozialstaat ausmachen? "Er sollte mittels technischer Systeme vor allem eines herstellen: Gerechtigkeit."

Erstveröffentlichung auf scilog.