Game Over

Content-ID: 040|01 | Autor: Gerd | Stand: 25.2.2021

Game over?

Wenn dich ein Algorithmus abschreibt

box = nähere Details finden Sie in der Fakten-Kiste am Ende dieses Beitrags.

Die Diskussion um den österreichischen AMS-Algorithmus hat wieder an Fahrt aufgenommen – zu Recht? Eigentlich sollten mit diesem Computer-Programm nur die Fördermittel des Arbeitsmarktservice effizienter eingesetzt und die Mitarbeiter*innen entlastet werden. Aber irgendwie scheint diese Rechnung nicht aufzugehen. Es hat sich nämlich herausgestellt, dass der Algorithmus zwar fein analysieren kann. Dabei ist er jedoch anfällig für Diskriminierung und soziale Unausgewogenheit. Hat die künstliche Intelligenz etwa nicht richtig gelernt oder gar den falschen Auftrag erhalten? Das Scharmützel um den AMS-Algorithmus ist damit nicht nur ein Streit um Software-Codes. Es offenbart auch grundsätzliche Defizite bei digitaler Fitness und Zukunftsvisionen in Österreich.

Der Bedarf an einer transparent arbeitenden Software, die in der Lage ist, die Potenziale arbeitsloser Menschen optimal zu fördern, wäre angesichts einer halben Million aktuell Betroffener ein durchaus großer. Er wird durch den AMS-Algorithmus jedoch nicht befriedigt werden können. Diese Software rechnet nur aus, wer keine Förderung erhalten soll. Und das mit umstrittenen Ergebnissen. Deshalb soll jetzt das oberste Verwaltungsgericht über den Einsatz dieses Programms entscheiden. Was jedoch nicht ausschließt, dass dieses Programm aktuell schon im Einsatz sein könnte. Genaues aber weiß man nicht. Denn weder das AMS noch das Arbeitsministerium haben auf eine diesbezügliche Anfrage geantwortet.

Der AMS-Algorithmus in der Kritik

Warum aber ist die inhaltliche Kritik an diesem Algorithmus so vehement? Weshalb fordern Expert*innen aus unterschiedlichen Fachrichtungen, dass bei diesem Tool fachlich und technisch dringend nachgebessert werden muss? Und warum kann man sich des Eindrucks nur schwer erwehren, dass diesem Format künstlicher Intelligenz die falsche Zielsetzung einprogrammiert wurde? Viele Antworten auf offene Fragen wissen die Expert*innen von Epicenter Works (siehe Link-Tipps), einer NGO, die aktiv an der Entstehung von Gesetzen und Regelungen zur Gestaltung der digitalen Welt mitarbeitet.

Die mit dem Fall befassten Fachleute prangern beim AMS-Algorithmus vor allem den Umstand an, dass eine Maschine über menschliche Schicksale entscheidet, die dazu nicht in der Lage ist. So wurde nachgewiesen, dass beim Training des Algorithmus auch veraltete Rollenbilder, Vorurteile und Diskriminierung ohne kritische Prüfung übernommen wurden. Im AMS-Rating-Prozess wurden so z.B. alleinerziehende Mütter schlechter als alleinerziehende Väter, ältere Personen schlechter als jüngere oder Menschen ohne Beeinträchtigung besser eingestuft als mit. Zudem wurde dieser Algorithmus in guten wirtschaftlichen Zeiten trainiert. Für spezifische Krisen-Situationen weist er hingegen noch wenig Erkenntnisgrundlagen auf.

LINK – Erklärung der Problematik des AMS-Algorithmus »

LINK – Petition gegen die Einführung des AMS-Algorithmus »

Zu diesem Thema hat sich aber auch Sonja, Expertin in Sachen IT und soziale Fragen, tief in die Karten blicken lassen. Und sie hat sehr kritische Argumente ins Spiel gebracht, die so noch nicht in der breiten Öffentlichkeit angekommen waren. Grundsätzlich geht es gar nicht darum, dem AMS die Nutzung digitaler Hilfen zu untersagen. Im Gegenteil: Die Bewältigung von Verwaltungsaufgaben und die Vorbereitung von Entscheidungen brauchen eine starke IT. Es muss nur gewährleistet bleiben, dass Entscheidungen über menschliche Schicksale immer transparent, nachvollziehbar und im Zweifelsfall durch Menschen gefällt werden. Das jedoch scheint durch den gegenständlichen AMS-Algorithmus nicht gewährleistet. Wo aber setzt man sinnvollerweise an?

Zurück an den Anfang: unbehagen.at-Forderungen Teil I

Aussetzen bzw. Rücknahme der Einführung des bestehenden AMS-Algorithmus. Zumindest so lange, bis alle Rating-Funktionen, die Ungleichheit fördern, gefixt und alle Datenschutz-Bedenken ausgeräumt sind.

Veröffentlichung des Algorithmus inklusive der Dokumentation der Entstehung der Rating-Parameter und deren laufenden Anpassung. Öffentliche Dokumentation allfälliger „Machine-Learning“-Ansätze.

Information aller vom Algorithmus beurteilten Personen über das detaillierte Ergebnis ihrer Einstufung. Einrichten einer Beschwerdestelle mit der Möglichkeit, allfällige Rating-Fehler und Diskriminierungen zu beeinspruchen.

Einberufung einer unabhängigen Steuergruppe aus NGOs und Expert*innen für die inhaltliche und rechtliche Prüfung der Algorithmen-Funktionen bzw. KI-Entscheidungen und als Projektleitung für die Weiterentwicklung des Tools.

Der Arbeitsmarkt bleibt höchst politisch

Expertin Sonja bedauert zudem, dass die öffentliche Diskussion aktuell nur zum Algorithmus selbst geführt wird. Der Zweck, den künstliche Intelligenz im Rahmen einer smarten Arbeitsmarktverwaltung erfüllen soll bzw. kann, steht hingegen nicht zur Debatte. Das sollte er aber! Ist die Mutter aller Fragen nicht, ob die Technik helfen soll, den Arbeitsmarkt optimiert zu managen und nicht nur, ob durch den Ausschluss von Anspruchsgruppen Geld gespart werden soll? Der aktuelle AMS-Algorithmus zielt tatsächlich auf zweiteres ab. Er errechnet die Chancen von Personen, rasch eine Stelle zu finden. Hat man ohnehin exzellente Aussichten auf einen Job, braucht es weniger Geld für fördernde Maßnahmen. Gilt man als schwer vermittelbar und damit potenziell langzeitarbeitslos, ist man in puncto Förderung außen vor. Die Erkenntnis, dass das Erreichen einer Vollbeschäftigungbox eben das kostet, was es kostet, und sich ohnehin mittelfristig selbst finanziert, existiert nicht.

Politisch folgt man damit dem weit verbreiteten Ansatz der „Dreiviertel-Gesellschaft“box. Daraus resultiert auch die Tatsache, dass der AMS-Algorithmus ähnlich wie die Bewertung der Bonität bei der Vergabe von Krediten funktioniert und mehr auf „Ausfallswahrscheinlichkeit“ als auf Optimierung getrimmt ist. Auf Management-Ebene stellt sich deshalb die Frage, warum versucht wird, mit punktuellen, wenig-dimensionalen Ratings hochkomplexe, dynamische Systeme, wie den Arbeitsmarkt, darzustellen. Das ist, als würde man mit Knallfröschen auf Elefantenjagd gehen. Vergleicht man diesen Ansatz mit dem bereits Machbaren und künftig Möglichen in einer digitalisierten Welt, erscheint er erschreckend altmodisch. Künstliche Intelligenz ist schon weit über das Maß der digitalen „Bauernschläue“ hinausgewachsen. Kein Wunder also, dass das Projekt AMS-Algorithmus visionslos wirkt. Dabei zielt die Kritik nicht in Richtung der IT-Spezialist*innen. Die tun nur, was im „Backlog“ steht. Der Punkt ist vielmehr, ob mit dem AMS-Algorithmus dem Volk nur der Eindruck digitaler Kompetenz vermittelt werden soll, freilich ohne wirklich zu brillieren. Oder ob die politisch Verantwortlichen das Ergebnis tatsächlich als „State of the Art“ wahrnehmen. Das wiederum wäre bedenklich.

Die KI der 2020er-Jahre

Es braucht in Österreich dringend eine Aufholjagd in Sachen Digitalisierung. Sonja zum Beispiel assoziiert mit KI im Rahmen der Arbeitsmarktverwaltung weit ausgereiftere technische Lösungen als nur jene, ein Budget auf Anspruchsgruppen zu verteilen. Für sie heißt das übergeordnete Ziel eines AMS-Systems eher Vollbeschäftigung als nur ein Klient*innen-Rating. Die Aufgabe ist daher, ALLE offenen Stellen zu besetzen und die Arbeitssuche ALLER Betroffenen zu verkürzen – egal wie. Das zu erreichen, erfordert jedoch ein vernetztes digitales BIG PICTURE inklusive:

  • Individualisierte, potenzialorientierte und optimierte Matchings von Arbeitssuchenden und Arbeitgeber*innen – tagesaktuell und bedürfnisgerecht. Das geht weit über die klassische Stellensuche hinaus.
  • Big Data | Predictive Analytics: Permanente, zukunftsorientierte Analyse des Stellenmarktes mit dem besonderen Fokus auf mittelfristige Bedarfe, Bedürfnisse und Qualifikationen – inklusive Frühwarnsystem.
  • Unterstützendes AMS-Förder-Management: Einsatz von Algorithmen zur kosten-optimierten und bedürfnisgerechten Ausgestaltung von Förder- und Qualifizierungsangeboten. Weg vom Standardrepertoire, hin zur Individualförderung ALLER Arbeitslosen (ganz besonders der schwer vermittelbaren).
  • Transparenz- und Compliance-Ebene: Um systemische Fehlentwicklungen, z.B. aus Deep Learning-Prozessen, zu vermeiden und die Einhaltung gesetzlicher Grundlagen zu überwachen, braucht es ein technisch aufgerüstetes und transparentes Monitoring.

Mit der vernetzten digitalen Abwicklung aller Analyse-, Vermittlungs- und Verteilungsprozesse werden zudem die Mitarbeiter*innen des AMS wieder für ihre Kernaufgaben freigespielt. Damit schließt sich der Kreis der Argumente, wenn auch auf einem anderen Erkenntnis-Niveau als aktuell in der öffentlichen Diskussion.

Auf in die Zukunft: unbehagen.at-Forderungen – Teil II

Erarbeitung und Veröffentlichung eines umfassenden Digitalisierungskonzeptes der Bundesregierung (Big Picture) zur mittelfristigen Steuerung der österreichischen Wirtschaft inkl. des Arbeitsmarktes mit kontrollierter Unterstützung durch künstliche Intelligenz.

Konkreter Start der Entwicklung einer künstlichen Intelligenz für ein effizientes Management der sich rasant verändernden Arbeitswelt. Ausgangspunkt dafür kann auch ein modifizierter AMS-Algorithmus sein, wie er heute schon zur Diskussion steht.

Herauslösen von KI-Agenden aus dem Bundesministerium für Digitalisierung und Schaffen einer unabhängigen Bundesagentur für künstliche Intelligenz mit den Aufgabengebieten: Strategie, Recht, Sicherheit, Antidiskriminierung, Beschaffung, Hosting und Entwicklung.

Also, es ist höchst an der Zeit, die nächsten Schritte zu tun!

 

Salzburg, 02|2021 – Gerd

box) = Fakten-Kiste
Dreiviertel-Gesellschaft

In diesem Denkansatz bleiben die nur begrenzt verfügbaren Chancen und Ressourcen einer Gesellschaft jenen 75 % vorbehalten, die einen wirtschaftlichen Beitrag leisten können. Nur wer Steuern zahlt, Arbeit hat und über ein privates Einkommen den Konsum befeuert, sollte auch Leistungen der Gesellschaft in Anspruch nehmen dürfen. Demgegenüber gibt es Menschen, die diese Kriterien nicht erfüllen (können). Dieses (geschätzte) restliche Viertel wird gerne als „Nutzer*innen der sozialen Hängematte“ diskreditiert. Diese Menschen werden als Belastung für die Leistungsgesellschaft empfunden und sind daher möglichst kurz zu halten. Um die Mindestanforderungen an einen Sozialstaat zu erfüllen, werden nicht vermeidbare Leistungen im Budget sinngemäß als Abschreibe-Posten geführt. Wir kennen hierzulande diese Haltung aus der Diskussion um die Mindestsicherung und Sozialleistungen. In Deutschland führt uns Hartz IV vor Augen, wo die Reise hingehen kann. Damit aber wird die Diskussion um das AMS-Rating zur Kürzung von Leistungen auch zu einer politischen um soziale Verantwortung, Wertschätzung und Solidarität.

Aufgaben des AMS | Zukunftsfitness

Auszug aus dem Arbeitsmarktservicegesetz (23.2.2021): 2. Teil, 1. Hauptstück – § 29. (1): „Ziel des Arbeitsmarktservice ist, im Rahmen der Vollbeschäftigungspolitik der Bundesregierung zur Verhütung und Beseitigung von Arbeitslosigkeit unter Wahrung sozialer und ökonomischer Grundsätze im Sinne einer aktiven Arbeitsmarktpolitik auf ein möglichst vollständiges, wirtschaftlich sinnvolles und nachhaltiges Zusammenführen von Arbeitskräfteangebot und -nachfrage hinzuwirken, und dadurch die Versorgung der Wirtschaft mit Arbeitskräften und die Beschäftigung aller Personen, die dem österreichischen Arbeitsmarkt zur Verfügung stehen, bestmöglich zu sichern. Dies schließt die Sicherung der wirtschaftlichen Existenz während der Arbeitslosigkeit im Rahmen der gesetzlichen Bestimmungen ein.“

Zu beurteilen, ob diese Aufgabe nur mit Einschränkung des Bezieher*innen-Kreises von Leistungen zu erfüllen ist (aktueller Algorithmus) oder durch den Einsatz einer leistungsfähigen KI, obliegt natürlich der Behörde selbst. Die aktuelle Job-Krise, der Fachkräftemangel und die steigende Komplexität am Arbeitsmarkt erzwingt jedoch unweigerlich einen Paradigmenwechsel. Um auch in Zukunft für o. a. Aufgaben gerüstet zu sein, reicht es bald nicht mehr, den Projektumfang schrittweise zu reduzieren. Der heiß diskutierte AMS-Algorithmus tut jedoch genau das. Es wird künftig neue technische Ansätze brauchen, die nur mit interdisziplinärer Vernetzung (Arbeitnehmer- und Arbeitgeber*innen, EPUs, Aus- und Weiter-Bildung, Gewerbeordnung etc.) zu lösen sind. Es braucht daher visionäre Politiker*innen und Berater*innen, um über künstliche Intelligenz die Wirtschaft und den damit verbundenen Beschäftigungsmarkt als BIG PICTURE zu managen. Doch wo sind diese Personen heute?

LINK – Arbeitsmarkservicegesetz »

 

Hinweise

Persönliche Meinung: Da ich seitens des AMS und des Arbeitsministeriums keine Antwort auf meine Anfragen erhalten habe, entspringen einige der im Beitrag angeschnittenen Erkenntnisse meinen persönlichen Schlussfolgerungen aus jenen Informationen, die frei zugänglich sind.

Der Name von Sonja wurde aus Datenschutzgründen verändert.

KI = künstliche Intelligenz

Vollbeschäftigung (Österreich) = eine Arbeitslosenquote von unter 3,5 %.

State of the Art = englisch für letzter Stand der Entwicklung

Backlog = Sammlung von Arbeitsaufträgen in der Software-Entwicklung

Ihr Feedback

Mit dem Beitrag einverstanden? Oder fehlt etwas bzw. stimmt etwas nicht? Dann geben Sie mir bitte ein Feedback über dasUnbehagen.at – Redaktionstool »