AMS-Algorithmus könnte zu struktureller und sozialer Ungleichheit beitragen
Das AMS wollte ab 2021 den sogenannten AMS-Algorithmus einsetzen. Das Arbeitsmarktchancen-Assistenz-Modell (AMAS) soll auf Basis von Statistiken vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden vorhersagen. Eine Studie des Instituts für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften zeigt, dass die Einführung des AMS-Algorithmus zu struktureller und sozialer Ungleichheit beitragen könnte. Notwendig sind daher Daten- und Systemtransparenz sowie ein umfassendes Auditing des Systems.
Erste Versuche zur Einführung eines Profiling-Systems am AMS gab es bereits im Jahr 2008. Der langjährige Prozess mündete schließlich im Herbst 2018 im Testbetrieb von AMAS. Dieser Prozess knüpft an politische und organisationale Entwicklungen an, die 1994 in einem Umbau der österreichischen „Arbeitsämter“ in teilautonome Serviceeinrichtungen resultierte. Derzeit ist der Einsatz des Systems durch einen Bescheid der Österreichischen Datenschutzbehörde vom August 2020 untersagt. Gegen diesen Bescheid hat das AMS Beschwerde eingelegt.
AMAS teilt Arbeitssuchende nach ihrer „Integrationschance“ in drei Gruppen ein: jene mit „hohen“ (H), „mittleren“ (M) und „niedrigen“ (N) prognostizierten Chancen, innerhalb eines bestimmten Zeitraums wieder Arbeit zu finden. Gefördert werden soll vorrangig im „mittleren“ Segment. Was hinter dieser „Integrationschance“ eigentlich steckt und was sie über einen Menschen aussagen kann, ist allerdings fraglich.
Arbeitsbiografie versus „Integrationschance“?
Stellen wir uns folgendes Szenario vor: Eine Kundin kommt nach ihrem Informatikstudium zum AMS, um einen Job in der IT-Branche zu finden.
Das fiktive Beispiel von Schifteh A. zeigt deutlich, wie eine individuelle Biografie auf einen numerischen Wert – den Integrationschancen-Wert (IC-Wert) – reduziert wird und welche Konsequenzen das nach sich ziehen kann. Der Lebenslauf wird auf einzelne, sehr grobe Personenmerkmale reduziert und dann mit Arbeitssuchenden mit ähnlichen Merkmalen verglichen. Diese „Variablen“ sind sehr grob ausgestaltet. Frau A. wird dadurch mit zwar vermeintlich ähnlichen, im Grunde aber sehr unterschiedlichen Personen verglichen. Der grobe Ausbildungsgrad Matura+, Staatengruppe und Wohnort können eben nicht alles über eine Person aussagen, ganz im Gegenteil. Ihr erfolgreiches IT-Studium, ihre perfekten Englischkenntnisse und ihre Kontakte zur IT-Branche werden in ihrem IC-Wert nicht abgebildet. Es liegt nun an den BeraterInnen, diese fehlenden Informationen auszugleichen und den IC-Wert zu „korrigieren“. Entsprechend den AMS-Richtlinien macht der/die BeraterIn das in unserem Fallbeispiel auch, woraufhin Schifteh A. im „mittleren“ Segment landet und zu Schulungen – konkret einem Deutschkurs – eingeladen wird. Den Deutschkurs nimmt sie gerne an, obwohl er ihre Arbeitsmarktsituation kaum verbessern wird, da sich die IT-Branche nicht primär an Deutschkenntnissen, sondern an Fachkenntnis orientiert, die Frau A. ohnehin vorweisen kann. Zudem verkompliziert der IC-Wert die AMS-Beratungspraxis für alle Beteiligten, die sich nunmehr an einem numerischen Wert „abarbeiten“ müssen, statt auf den individuellen Förderbedarf der arbeitssuchenden Person eingehen zu können. Doch was steckt eigentlich genau hinter dem sogenannten IC-Wert und welche Probleme sind damit verbunden?
Vereinfachte Darstellung der Realität
Der Algorithmus fasst Personen gleicher oder ähnlicher Personeneigenschaften in einer Konstellation zusammen und setzt diese in Beziehung zu einem kurz- und einem langfristigen „Integrationskriterium“ (innerhalb einer bestimmten Zeit für eine festgesetzte Dauer Beschäftigung zu finden). Haben von 50 Personen einer Konstellation 25 Personen das Integrationskriterium erfüllt, ergibt dies eine Prognose der „Integrationschance“ von 50 Prozent für zukünftige Arbeitssuchende, die dieser Konstellation zugerechnet werden. Es wird somit angenommen, dass innerhalb von „Konstellationen“ dieselben Arbeitsmarktchancen bestehen.
Diese Annahme vereinfacht die komplexe Realität der Arbeitssuche allerdings durch eine kleine Anzahl an unscharfen Variablen. So wird „gesundheitliche Beeinträchtigung“ mit einem einfachen Ja/Nein abgebildet. Dabei wird weder darauf Rücksicht genommen, welche konkrete Beeinträchtigung ein/e Arbeitssuchende/r hat, noch welchen Beruf diese Person ausüben möchte. Konkret: Wenn jemand einen Rollstuhl benutzt, mag das in manchen Berufen ein Problem sein, in vielen anderen aber nicht. Diese Feinheiten werden in AMAS alle über einen Kamm geschoren. Ähnlich sind die Kategorien „Ausbildung“ oder „Wirtschaftssektor“ sehr grob abgebildet. Diese Beispiele zeigen, dass der AMS-Algorithmus nur Teilaspekte einer komplexen Biografie abbildet. Und das hat große Konsequenzen in der Beratungspraxis und für Arbeitssuchende.
Welche Herausforderungen ergeben sich in der Beratungspraxis?
Das AMS meint, die statistisch berechnete „Integrationschance“ stellt lediglich eine Zusatzfunktion oder „zweite Meinung“ dar. In der Beratungspraxis hat sie aber viel weitreichendere Konsequenzen. Der Fokus des Kundenkontakts verschiebt sich vom persönlichen Förderbedarf einer Einzelperson hin zu Arbeitsmarktchancen auf Basis einer Populationsberechnung. Damit ändert sich die Arbeitspraxis von AMS-BeraterInnen gravierend hin zum Abarbeiten einer Reihe von „Aufgaben“, die das Assistenzsystem erfordert. Bei der ohnehin knappen Beratungszeit liegt eine automatische Übernahme der computergenerierten Einstufung nahe. Das System setzt Anreize, eher dem errechneten Chancenwert zu folgen, als diesen zu „korrigieren“. Die Datenschutzbehörde hat diesen Aspekt als „routinemäßige Übernahme“ kritisiert.
Für Arbeitssuchende hat die Verschiebung vom persönlichen Förderbedarf hin zu Berechnungen auf Populationsebene noch folgenschwerere Konsequenzen. Für sie bedeutet der Fokus auf die Einstufung, dass ihre Biografie und Fähigkeiten auf einen scheinbar „objektiven“ Wert reduziert werden, der Auskunft über ihre Chancen am Arbeitsmarkt geben soll. Der Anspruch der kundenorientierten Betreuung durch das AMS steht damit der Reduktion der persönlichen Biografie auf einen computergenerierten Wert gegenüber.
Gruppe mit „niedrigen“ Chancen erhält Beratung, aber keine Förderung
Zwei zentrale Ziele des Algorithmus sind, die Fördermittel effizienter einzusetzen sowie die „Schulungseffektivität“ zu erhöhen. Fördermittel sollen dort eingesetzt werden, wo qualifizierende und beschäftigungsfördernde Maßnahmen schnell zu einem Wiedereinstieg in den Arbeitsmarkt führen. Das sei bei Personen mit „mittleren“ Chancen am effizientesten. Dieser arbeitsmarktpolitische Schwerpunkt zielt aber nicht darauf ab, für individuelle AMS-KundInnen zielgenau qualitative Maßnahmen zu finden, sondern verbindet das Ziel des „effektiven“ Mitteleinsatzes mit einer groben – und eben nicht zielgenauen – Einteilung in die drei Gruppen.
Arbeitssuchende mit prognostizierten „niedrigen“ Chancen sollen vom AMS in externe Betreuungseinrichtungen und „zweckmäßigere Angebote“ ausgegliedert werden. Diese Personen seien laut AMS in vielen Fällen schon länger arbeitslos und haben gesundheitliche Probleme. Es sei nicht zielführend, diese zu überfordern, sodass sie in Krankenstand gehen und schlussendlich die Ausbildung abbrechen müssen.
Ein segmentiertes Angebot kann sicherlich unterschiedliche Bedarfe abdecken. Personengruppen zu segmentieren ist allerdings problematisch. Wenn bestimmte gesellschaftliche Gruppen gehäuft einem Segment zugeordnet werden, weil die Zugehörigkeit zu einer Konstellation stark auf Personencharakteristiken (wie z. B. Geschlecht, Alter, Staatengruppe) abstellt und andere Einflussfaktoren in geringerem Ausmaß in die Integrationschance einfließen (wie z. B. der „Konjunkturfaktor“), handelt es sich um eine strukturelle Ungleichbehandlung. Dass das an die Einstufung geknüpfte Angebot dann tatsächlich passt, scheint ungewiss.
Mehr Transparenz und Einspruchsrechte
Da (semi-)automatisierte Entscheidungssysteme wie der AMS-Algorithmus stark in bestehende Prozesse und Praktiken eingreifen, müssen Einsichts- und Einspruchsrechte für Betroffene, öffentliche Konsultationen sowie die Vermittlung kritischer Kompetenzen für AMS-BeraterInnen und KundInnen gewährleistet werden. Bei der Entwicklung solcher Systeme müssen Anti-Diskriminierungs-Maßnahmen sowie Interessen von unterschiedlichen Stakeholdern, insbesondere von Arbeitssuchenden oder Arbeitslosenvereinigungen, einbezogen werden. Im Sinne der Rechenschaftspflicht (semi-)staatlicher Institutionen sind System- und Datentransparenz gefordert, um eine nachvollziehbare Evaluierung aus technischer, grundrechtlicher, demokratischer und rechtsstaatlicher Sicht zu ermöglichen. Darüber hinaus sind bestehende Grundrechte umzusetzen und neue/adaptierte gesetzliche Grundlagen, Gremien und Aufsichtsorgane sowie neue Auditing-Verfahren einzurichten.
Die Studie wurde vom Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften im Auftrag der AK OÖ gemeinsam mit dem Centre for Informatics and Society (CIS) der TU Wien erstellt und ist online abrufbar:
Allhutter, D., Mager, A., Cech, F., Fischer, F., & Grill, G. (2020): Der AMS-Algorithmus. Eine Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS) (p. 120), Wien. doi:/10.1553/ITA-pb-2020-02: https://epub.oeaw.ac.at/ita/ita-projektberichte/2020-02.pdf
