Für solche Bewertungen sollten ab 2021 keine AMS-Betreuer*innen mehr zuständig sein, sondern ein 1,8 Millionen Euro teurer Algorithmus. Einige Zeit war der Algorithmus bisher testweise im Einsatz. Na ja, in Wahrheit ist es gar kein Algorithmus, man nennt ihn nur so. Bei dem Assistenzsystem handelt es sich um ein Modell, das nach statistischen Daten vorgeht und die Chancen auf Reintegration in den Arbeitsmarkt von Personen anhand alter Daten von Personen mit ähnlichen Merkmalen berechnet. Dabei interessiert sich dieser Algorithmus aber auch für sehr persönliche Daten. Das Alter zum Beispiel. Oder das Geschlecht. Oder eine Behinderung. All diese Details geben Minuspunkte im Ranking. Wer zum Beispiel über 50 Jahre alt ist, bekommt Punkte abgezogen. Ebenso Personen mit Behinderung. Und – ja, tatsächlich – auch Frauen. Vor allem Mütter steigen im Algorithmus schlecht aus. Väter übrigens nicht.
Mit diesem Algorithmus kaschiert man offenbar die Entscheidung, dass man sich um manche Leute eigentlich nicht mehr kümmern möchte.
Simon Theurl, Arbeitsmarktexperte der AK Wien
„Mit diesem Algorithmus kaschiert man offenbar die Entscheidung, dass man sich um manche Leute eigentlich nicht mehr kümmern möchte.“ Simon Theurl, Arbeitsmarktexperte in der Abteilung Arbeitsmarkt und Integration der Arbeiterkammer Wien, findet harte Worte für diese Vorgangsweise. „Math-Washing“ nennt er das. „Am Ende des Tages bildet dieser Algorithmus Diskriminierung ab, die vonseiten der Unternehmen am Markt herrschen.“
Ob du wirklich richtig stehst …
Einmal ganz allgemein gefragt: Was ist ein Algorithmus überhaupt? Algorithmen kennen wir eigentlich aus anderen Ecken unseres Alltags. Dass meine und deine Startseite auf YouTube komplett anders aussehen, dass das Navigationssystem im Handy immer die kürzeste Route findet. Oder wie die Google-Suchmaschine Sätze vervollständigt. Auf Google, so würde man vielleicht sagen, ist das okay, es ist Google. Aber beim AMS?
- 1.Gruppe: gute Chancen am Arbeitsmarkt
- 2. Gruppe: mittlere Chancen am Arbeitsmarkt
- 3.Gruppe: schlechte Chancen am Arbeitsmarkt
Dieses System hat diverse Organisationen hellhörig gemacht. Eine davon ist die Wiener Datenschutzorganisation epicenter.works. Sie fordert einen Stopp des AMS-Algorithmus: „Wir dürfen nicht zulassen, dass Merkmale, auf die man keinen Einfluss hat, entscheidend dafür sind, ob Menschen Aus- oder Weiterbildungen verboten werden“, steht auf ihrer Website. Algorithmische Systeme sollten Vorurteile und Ungerechtigkeiten bekämpfen und diese nicht weiter einzementieren. Deshalb haben sie eine Petition gestartet. 3.300 Unterschriften haben sie schon gesammelt. Sie wollen ein Problembewusstsein schaffen.
… siehst du, wenn das Licht angeht
Denn man hatte versucht, den AMS-Algorithmus schnell und unauffällig durchzusetzen. So schnell, dass es vielen zuerst gar nicht aufgefallen war. Doch auch die Arbeiterkammer hatte schnell einen Kritikpunkt. „Vonseiten des AMS wurde zwar immer wieder betont, dass die Betreuer*innen sich jederzeit gegen den Algorithmus entscheiden können, aber für uns war überhaupt nicht klar, inwiefern das tatsächlich passiert“, erläutert Theurl. Und weiter: „Die AMS-Mitarbeiter*innen sind ja ohnehin schon komplett überlastet, die sind im schlechtesten Fall froh, wenn sie sich um weniger Leute intensiver kümmern können. Und möglicherweise werden sich da manche vielleicht dann doch nicht gegen die Entscheidung des Algorithmus stellen.“ Ein Dilemma.
Also Nachfrage beim AMS, und zwar bei denen, die das tagtäglich machen. Eine Person, die schon viele Jahre dort arbeitet, möchte anonym bleiben. Sie glaubt, dass die Berater*innenkompetenzen dem System weitaus überlegen seien, denn eine Maschine könne und sollte keine Menschen beurteilen. Aber hält das? Unklar. Übrigens auch, wie es mit dem Algorithmus generell weitergeht.
Plopp heißt Stopp
Denn die Datenschutzbehörde hat Ende August entschieden, dass das AMS den umstrittenen Algorithmus nicht wie geplant am 1. Jänner 2021 flächendeckend einführen darf. Einschulungen für AMS-Mitarbeiter*innen hätten im Herbst stattfinden sollen – so war zumindest der Plan. Weil aber verabsäumt wurde, eine Datenschutz-Folgeabschätzung durchführen zu lassen, und wegen anderer rechtlicher Bedenken darf das System, das sich eigentlich längst im Testbetrieb befindet, nicht wie geplant starten. Außerdem, kritisiert die Behörde, gebe es für die Betroffenen derzeit keine Möglichkeit, gegen eine Entscheidung zu berufen. Auch die Letztaufsicht durch die AMS-Berater*innen sei nicht sichergestellt. Das AMS sieht nun die Verantwortung bei der Gesetzgebung, diese rechtliche Grundlage nachträglich zu schaffen.
Weil verabsäumt wurde, eine Datenschutz-Folgeabschätzung durchführen zu lassen, und wegen anderer rechtlicher Bedenken darf das System, das sich eigentlich längst im Testbetrieb befindet, nicht wie geplant starten.
Anna Daimler ist eine der Arbeitnehmervertreter*innen im AMS-Verwaltungsrat, die dem Algorithmus kritisch gegenüberstehen. Sie sieht die Entstehung des Algorithmus als Symptom eines altbekannten Problems: Die Ressourcen des AMS sind zu knapp. Dennoch seien die BBEN, also die „Bildungs- und Beratungseinrichtungen neu“, eine akzeptable Lösung für Personen mit multiplen Belastungen, weil sich so explizit qualifiziertes Personal um sie kümmern könne, so die vida-Generalsekretärin des ÖGB. Die Befürchtung, dass es sich dabei doch um ein Abstellgleis handeln könnte, bleibt dennoch.
Die Organisation „Aktive Arbeitslose Österreich“, eine – wie sie sich nennt – parteiunabhängige Basisgewerkschaft, fordert auch schon länger die sofortige Einstellung dieser „entwürdigenden Kategorisierung von Versicherten durch den AMS-Algorithmus“. Ebenso die Volksanwaltschaft, sie hat sich in der Vergangenheit kritisch gegenüber dem System gezeigt.
Die Debatte um den Algorithmus und seine Funktionsweise selbst macht Diskriminierungen sichtbar. Nur so können sie auch in die Arbeitsmarktpolitik miteinbezogen werden.
Einen Vorteil habe das Ganze möglicherweise doch, findet Anna Daimler: Die Debatte um den Algorithmus und seine Funktionsweise selbst macht Diskriminierungen sichtbar. Nur so können sie auch in die Arbeitsmarktpolitik miteinbezogen werden. Experte Simon Theurl ist noch vorsichtig: „Durch den Algorithmus selbst wird sich wahrscheinlich nicht viel ändern. Sinnvoll wäre eine Weiterentwicklung in ein faktenbasiertes Frühwarnsystem.“ Denn das Optimum sei, sagt er, wenn jede Person bereits zu Beginn der Arbeitslosigkeit ein ausreichend langes Beratungsgespräch bekommen würde. Viele wüssten gar nicht, in welcher Situation sie sich befinden.
Letzte Chance, vorbei
Die Daten zeichnen ein klares Bild: Ab 45 Jahren steigt das Risiko, langzeitarbeitslos zu werden. Wäre der Algorithmus nicht gekippt worden, hätte es dafür ab 50 auch noch Minuspunkte bei der Arbeitssuche gegeben. Und das hieße im schlimmsten Fall: ein fixes Abstellgleis.
Die Zukunft dieses Algorithmus ist weiterhin unklar. Jetzt ist also der Gesetzgeber gefordert. Eines ist jedenfalls sicher: Der Algorithmus bleibt umstritten.