Im Zweifel für das geringere Risiko
Unterschiedliche Modelle, wie sie im Strafvollzug genutzt werden, können das Rückfallrisiko von Inhaftieren unterschiedlich bewerten – obwohl sie ähnlich genau sind. Eine Studie der TU Wien zeigt nun, wie dieser Willkür zugunsten der Betroffenen entgegengewirkt werden kann.
Ob eine Person nach ihrer Entlassung aus dem Gefängnis wieder straffällig wird oder sich erfolgreich rehabilitiert, hängt von mehreren Faktoren ab. Wird das Rückfallrisiko bewertet, werden all diese berücksichtigt – sowohl von menschlichen Expert_innen als auch von Machine-Learning-Modellen. Kommen mehrere gleich gute Rechenmodelle zu unterschiedlichen Risikoeinstufungen, sollte für die betroffene Person der niedrigste Wert gelten, schlagen Ashwin Singh (TU Wien) und Carlos Castillo (ICREA/Universitat Pompeu Fabra) vor. Sie untersuchten ein seit über 15 Jahren in Katalonien (Spanien) verwendetes System zur Einschätzung des Rückfallrisikos von Inhaftierten und stellten ihre Ergebnisse kürzlich auf der neunten AAAI/ACM-Konferenz zu KI, Ethik und Gesellschaft vor.
Gleiche Genauigkeit, unterschiedliche Risikobewertung
In vielen Strafvollzugssystemen unterstützen Modelle des maschinellen Lernens (ML) Fachleute dabei, das Rückfallrisiko einzuschätzen. Dabei handelt es sich nicht um komplexe Systeme wie generative KI oder große Sprachmodelle, sondern meist um vergleichsweise einfache lineare Punktesysteme. Sie kombinieren Informationen über die Vergangenheit einer Person, wie beispielsweise deren Vorstrafen, mit Aspekten, die sich während der Haftzeit ändern können, wie beispielsweise das Bildungsniveau. Auf dieser Grundlage werden Risikowerte prognostiziert, die das Gefängnispersonal bei Entscheidungen über Bewährung und Haftbedingungen unterstützen.
Die Prognose bleibt jedoch unsicher, denn die verfügbaren Daten stützen sich lediglich auf messbare Merkmale und die Lebenswege von Personen mit ähnlichen Merkmalen können sich stark unterscheiden. Das führt dazu, dass mehrere Modelle zwar gleich genau sein und dieselben Merkmale berücksichtigen können, bei der gleichen Person aber trotzdem zu unterschiedlichen Ergebnissen kommen. „Es wäre schwer zu rechtfertigen, warum eine Person einen höheren Risikowert erhält, nur weil per Zufall eines von mehreren gleich guten Modellen ausgewählt wurde“, sagt Ashwin Singh vom Forschungsbereich Machine Learning. „Unsere Richtlinie klärt diese Unklarheit zugunsten der betroffenen Person.“
Mehr als 17.500 Haftentlassungen untersucht
Das Team untersuchte das System RisCanvi, das in katalanischen Gefängnissen seit 2009 eingesetzt wird. In Zusammenarbeit mit Forschenden aus dem Strafvollzug des katalanischen Justizdepartments übersetzten Singh und Castillo komplexe rechtliche Regeln in einen Algorithmus. Damit konnten sie systematisch bestimmen, ob eine Person nach ihrer Entlassung im rechtlichen Sinn rückfällig geworden war. So entstand ein Datensatz mit mehr als 17.500 Haftentlassungen.
Anhand dieser Daten entwickelte das Team interpretierbare lineare Modelle mit verbesserter Vorhersageleistung und geringeren Unterschieden bei Fehlerraten zwischen demografischen Gruppen. Verglichen wurden unter anderem Männer und Frauen sowie Personen mit und ohne spanischer Staatsangehörigkeit.
Zugleich wurde technisch sichergestellt, dass erkennbare Fortschritte bei der Rehabilitation während der Haft den Risikowert senken. „Ein Bewertungssystem sollte positive Veränderungen auch tatsächlich als solche abbilden“, sagt Singh. „Rehabilitationsfortschritt sollte niemals alleine aufgrund der mathematischen Struktur eines Modells zu einer höheren Risikobewertung führen.“
Die Entscheidung bleibt beim Menschen
Eine Risikobewertung sagt nicht mit Sicherheit voraus, ob jemand rückfällig wird. Viel mehr liefert sie eine Wahrscheinlichkeit, die Fachkräfte bei ihrer Einschätzung unterstützt. In Katalonien werden – ebenso wie in den meisten anderen europäischen Ländern – während der Haft sowohl algorithmische als auch menschliche Bewertungen vorgenommen und anschließend miteinander verglichen. Die endgültige Entscheidung bleibt dabei beim Menschen. „Es ist aber sinnvoll, beide Einschätzungen heranzuziehen“, betont Ashwin Singh. „Gerade weil die Daten stark rauschen, muss die Verantwortung für die Entscheidungsfindung letztendlich bei menschlichen Expert_innen liegen.“
Bei Entscheidungen über Vollzugsbedingungen oder eine mögliche vorzeitige Entlassung sind unterschiedliche Interessen abzuwägen: der Schutz der Öffentlichkeit, die persönliche Situation der inhaftierten Person, ihre Entwicklung während der Haft und das Ziel einer erfolgreichen Rehabilitation. Aber auch institutionelle Faktoren wie die Belegung der Gefängnisse spielen eine Rolle.
Wenn Modelle uneins sind
Obwohl die untersuchten Modelle teils unterschiedliche Bewertungskriterien verwenden, kamen sie meist zu denselben Risikobewertung. Für Fälle, in denen die Ergebnisse voneinander abwichen, wandte das Forschungsteam eine einfache Regel an, wonach für jeden Häftling die niedrigste Risikobewertung berücksichtigt wird. Dabei stellten sie fest, dass dies zu keinerlei Einbußen bei der Gesamtvorhersageleistung führt.
„Die Unsicherheit bei der Auswahl des Modells sollte nicht zulasten der betroffenen Person gehen“, sagt Singh. Die Regel reduziert die Abhängigkeit von einem einzelnen Modell. Das ist besonders relevant, weil es für Inhaftierte schwierig sein kann, eine mögliche Benachteiligung durch das Risikobewertungssystem nachzuweisen. Die Studie zeigt damit, dass bei Hochrisikoanwendungen im Sinne des AI Acts nicht nur Genauigkeit und geringe Abweichungen bei der Fehlerquote zählen, sondern auch die Stabilität einzelner Risikobewertungen.
Wissenschaftlicher Ansprechpartner:
Ashwin Singh
Technische Universität Wien
Forschungsbereich Machine Learning
ashwin.singh@tuwien.ac.at
Originalpublikation:
Singh, A., & Castillo, C. (2026). Model Multiplicity and Predictive Arbitrariness in Recidivism Risk Assessment. https://doi.org/10.1609/aies.v9i4.43311
Ähnliche Pressemitteilungen im idw
