Da Organisationen zunehmend auf Algorithmen vertrauen, um Bewerber:innen für Arbeitsplätze, Universitätsplätze und Finanzdienstleistungen zu bewerten, bietet hyperFA*IR einen fundierteren Ansatz für die Auswahl aus begrenzten Pools, insbesondere wenn Minderheiten nur schwach vertreten sind. Die neue interaktive Visualisierung „Ranks of Disparity“ macht diese komplexen Dynamiken sichtbar.
[Wien, 07.04.2026] Angenommen, es gibt eine Konferenz mit 50 Bewerber:innen für 20 Plätze. 30 % der Bewerber:innen sind Frauen. Es werden zunächst fünf Personen ausgewählt, allesamt Männer. Wie hoch ist die Wahrscheinlichkeit, dass die nächste ausgewählte Person eine Frau ist – immer noch 30 % oder etwas höher, da nun fünf Männer aus dem Rennen sind?
Die meisten bestehenden Tools zur Messung von Fairness übersehen diese Feinheit. Traditionell gehen sie von keiner Zufälligkeit aus oder behandeln jede:n Kandidat:in als unabhängigen „Münzwurf“, wobei jeder Auswahl die gleiche Wahrscheinlichkeit zugewiesen wird. „Dieser Ansatz ignoriert die Tatsache, dass bei realen Auswahlprozessen die Kandidat:innen aus einem begrenzten Pool gezogen werden und jede Entscheidung die Chancen für alle anderen verändert“, erklärt Mauritz Cartier van Dissel vom Complexity Science Hub (CSH).
Zusammen mit seinen Kolleg:innen der Forschungsgruppe „Algorithmic Fairness“ am CSH und der TU Graz entwickelte Cartier van Dissel hyperFA*IR, eine neue Methode, die diese Lücke schließt. Durch die Berücksichtigung der sich ändernden Wahrscheinlichkeiten bei der Auswahl von Kandidat:innen bietet hyperFA*IR einen realistischeren, statistisch fundierten Weg, um Fairness in endlichen Pools zu gewährleisten – jene Situation, die bei Einstellungen, Universitätszulassungen und Kreditanträgen am häufigsten vorkommt.
„Die Methode kann auch Maßnahmen zur gezielten Förderung (Affirmative Action) unterstützen und Institutionen dabei helfen, Fairnessziele zu erreichen, während gleichzeitig die tatsächliche Struktur des Kandidat:innenpools respektiert wird, anstatt sich auf starre Quoten zu verlassen“, fügt Cartier van Dissel hinzu.
KARTEN ZIEHEN AUS EINEM DECK
„Bestehende KI-Fairness-Tools gehen davon aus, dass jede Auswahl unabhängig ist“, sagt Cartier van Dissel. „Aber in der Realität ist es bei der Auswahl aus einem festen Pool eher so, als würde man Karten aus einem Deck ziehen – sobald man eine Karte zieht, beeinflusst das den Rest des Stapels.“
Interaktives Tool: Die Auswirkungen von Voreingenommenheit untersuchen
Wie entstehen Ungleichheiten bei der Auswahl von Bewerber:innen? Das interaktive Tool „Ranks of Disparity“ ermöglicht es den Nutzer:innen, durch ein Szenario zur Hochschulzulassung zu navigieren, Bewerber:innen zu bewerten und zu erfahren, wie statistische Methoden eingesetzt werden, um Fairness zu messen und zu gewährleisten. Das Tool enthält zudem einen „Explorer“-Modus, mit dem diese Konzepte anhand von drei verschiedenen Datensätzen getestet werden können: Hochschulzulassungen, Jobbewerbungen und Stipendien.
Der ursprüngliche FA*IR-Algorithmus verwendet ein Modell, bei dem die Auswahlwahrscheinlichkeiten statisch bleiben. Wenn ein Pool zu 70 % aus Männern und zu 30 % aus Frauen besteht, wird jede Auswahl so behandelt, als gäbe es genau diese Quoten, unabhängig davon, wer bereits ausgewählt wurde.
„Bei aktuellen Algorithmen für faires Ranking bleibt die Wahrscheinlichkeit für die nächste Auswahl bei 70 % Männern und 30 % Frauen, selbst wenn wir zuerst fünf Männer auswählen“, stellt Cartier van Dissel fest. „In der Realität befinden sich jedoch nun fünf Männer weniger im Pool, sodass die Wahrscheinlichkeit, eine Frau auszuwählen, steigen sollte.“
WENIGE MINDERHEITEN
Das neue Tool verfeinert den ursprünglichen FAIR-Algorithmus und nutzt eine hypergeometrische Verteilung – ein statistisches Modell, das Stichproben ohne Zurücklegen berücksichtigt. Während Kandidat:innen ausgewählt und aus dem Pool entfernt werden, passt hyperFA*IR die Wahrscheinlichkeiten für die verbleibenden Kandidat:innen dynamisch an.
Dies ist besonders wichtig, wenn die Anzahl der Auswahlen im Verhältnis zur Poolgröße groß ist oder wenn unterrepräsentierte Gruppen klein sind. „Wenn man bereits viele Personen aus einer Gruppe ausgewählt hat, sinken die Chancen, weitere Personen aus dieser Gruppe auszuwählen, auf natürliche Weise“, so Cartier van Dissel, Erstautor der Studie, die in den Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency veröffentlicht wurde.
FAIRNESS BIS ZUM ENDE DES RANKINGS
Im Gegensatz zu Tools, die sich nur auf die Spitzenpositionen konzentrieren, gewährleistet hyperFA*IR Fairness über das gesamte Ranking hinweg, einschließlich der hinteren Plätze. Dies ist in Szenarien wichtig, in denen auch nachrangig platzierte Kandidat:innen von Wartelisten, Ausweichoptionen oder sekundären Möglichkeiten profitieren.
„In Einstellungsverfahren oder bei der Hochschulzulassung können niedriger platzierte Kandidat:innen immer noch von Wartelisten profitieren“, so die Forscher:innen. „Im öffentlichen Dienst oder bei der Wohnungsvergabe hilft Fairness am Ende des Rankings, systemische Benachteiligungen zu verhindern und eine gerechte Behandlung unterrepräsentierter Gruppen sicherzustellen.“
AFFIRMATIVE ACTION
Traditionelle Maßnahmen zur gezielten Förderung (Affirmative Action) stützen sich oft auf strikte Quoten – zum Beispiel die Vorgabe, dass 40 % der ausgewählten Kandidat:innen Frauen sein müssen. Diese festen Regeln können in kleinen oder ungleichmäßigen Bewerber:innenpools schwer fair anzuwenden sein. Das hyperFA*IR-Tool bietet eine flexible, statistische Alternative: Es nutzt den Zielanteil, um die ersten Auswahlen zu steuern, und passt die Wahrscheinlichkeiten dann dynamisch an, während Kandidat:innen ausgewählt werden. So wird sichergestellt, dass die Repräsentationsziele natürlich mit dem verbleibenden Pool übereinstimmen.
Dieser adaptive Ansatz verringert die Risiken, die mit starren Quoten verbunden sind, wie etwa Vorwürfe einer unfairen Behandlung anderer Gruppen oder einer umgekehrten Diskriminierung. Angesichts jüngster Urteile des US Supreme Court, die die Verwendung fester Quoten bei der Hochschulzulassung einschränken, bieten Ansätze wie hyperFA*IR eine Möglichkeit, Diversität und faire Repräsentation auf eine Weise zu fördern, die sowohl praktisch als auch legitim ist und dabei transparent und einfach umzusetzen bleibt, so die Forscher:innen.
REALER IMPACT
„Das Tool adressiert eine grundlegende Einschränkung in der Art und Weise, wie KI-Systeme faire Auswahlen aus realen Bewerber:innenpools treffen“, erklärt Fariba Karimi, Professorin an der TU Graz und Fakultätsmitglied des Complexity Science Hub (CSH).
Die Forscher:innen arbeiten nun an einem Modell, das mehrere Gruppen gleichzeitig berücksichtigt, nicht nur zwei Gruppen. „Sicherzustellen, dass Rankings ‚fair‘ sind, kann knifflig sein“, betont Cartier van Dissel. Die Realität ist, dass Menschen komplex sind und mehrere Merkmale haben – wie ethnische Zugehörigkeit, Geschlecht und Alter. Die Herausforderung besteht darin, Algorithmen zu entwickeln, die Fairness in Bezug auf alle Teile ihrer Identität gewährleisten, so Karimi und ihre Gruppe.
Service
ÜBER DIE STUDIE & DIE VISUALISIERUNG
Der Forschungsartikel „hyperFA*IR: A hypergeometric approach to fair rankings with finite candidate pool“ von Mauritz N. Cartier van Dissel, Samuel Martin-Gutierrez, Lisette Espín-Noboa, Ana María Jaramillo und Fariba Karimi wurde auf der FAccT ’25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency vorgestellt.
Die Visualisierung „Ranks of Disparity“ wurde im April 2026 veröffentlicht.
ÜBER DEN COMPLEXITY SCIENCE HUB
Der Complexity Science Hub (CSH) ist Europas wissenschaftliches Zentrum zur Erforschung komplexer Systeme. Wir übersetzen Daten aus einer Reihe von Disziplinen – Wirtschaft, Medizin, Ökologie, Sozialwissenschaften – in anwendbare Lösungen für eine bessere Welt. Gegründet im Jahr 2016, forschen heute über 70 Wissenschafter:innen am CSH, getragen von der wachsenden Notwendigkeit für ein fundiertes Verständnis der Zusammenhänge, die unserer Gesellschaft zugrunde liegen – vom Gesundheitswesen bis zu Lieferketten. Mit unseren interdisziplinären Methoden entwickeln wir die Kompetenzen, um Antworten auf heutige und zukünftige Herausforderungen zu finden.
Mitglieder des CSH sind AIT Austrian Institute of Technology, BOKU University, Central European University (CEU), IT:U Interdisciplinary Transformation University Austria, Medizinische Universität Wien, TU Wien, TU Graz, Universität für Weiterbildung Krems, Vetmeduni Wien, WU (Wirtschaftsuniversität Wien) und Wirtschaftskammer Österreich (WKO).
csh.ac.at
Mitglieder des CSH sind AIT Austrian Institute of Technology, BOKU University, Central European University (CEU), IT:U Interdisciplinary Transformation University Austria, Medizinische Universität Wien, TU Wien, TU Graz, Universität für Weiterbildung Krems, Vetmeduni Wien, WU (Wirtschaftsuniversität Wien) und Wirtschaftskammer Österreich (WKO).
csh.ac.at
