MIT-Studie: Ein Bewerbungsalgorithmus für alle Unternehmen ist nicht zwangsläufig schlecht

Eine verbreitete Sorge vor gemeinsam genutzten Algorithmen auf dem Prüfstand

KI-Werkzeuge ersetzen in einigen Bereichen zunehmend menschliches Urteilsvermögen. Algorithmen zur Vorauswahl von Lebensläufen kommen zum Beispiel häufig bei der Personalauswahl zum Einsatz, wo sie Effizienz und Konsistenz verbessern können. Einige Wissenschaftler befürchten, dass dieser Trend darin enden könnte, dass ein einziger Algorithmus sämtliche Entscheidungen in einer Branche trifft. Dieses Szenario wird als algorithmische Monokultur bezeichnet.

Eine häufige Sorge ist der systematische Ausschluss: Wer vom Algorithmus eines Unternehmens abgelehnt wird, würde vermutlich auch von den Algorithmen aller anderen Unternehmen abgelehnt. Das MIT-Team, im Gespräch vertreten durch die Co-Autoren Brian Hedden und Manish Raghavan, hat diesen und weitere zentrale Einwände systematisch untersucht. Das Ergebnis: Viele dieser Argumente greifen nicht oder sprechen nicht entscheidend gegen jede Form von Monokultur.

Hedden ist Professor am Department of Linguistics and Philosophy und hat eine gemeinsame Stelle am MIT Schwarzman College of Computing und am Department of Electrical Engineering and Computer Science (EECS). Raghavan ist Drew Houston (2005) Career Development Professor an der MIT Sloan School of Management und im EECS. Beide sind Principal Investigators am Laboratory for Information and Decision Systems (LIDS).

"Es kommt auf die Details an, etwa auf den Bereich, über den wir sprechen, und auf die Genauigkeit des Algorithmus selbst", sagt Hedden.

Ausschluss, Handlungsfähigkeit und Manipulation des Systems

Monokultur ist kein neues Phänomen. Die Forscher verweisen auf die Kreditvergabe, bei der früher unabhängige Bankberater entschieden, heute aber standardisierte Scores auf Basis des Algorithmus der Fair Isaac Corporation (FICO) maßgeblich sind. Auch eine Handvoll Algorithmen zur Lebenslauf-Vorauswahl wird von vielen Fortune-500-Unternehmen gemeinsam genutzt. Die Studie konzentriert sich auf die Personalauswahl, der Ansatz ließe sich aber auf andere Bereiche wie die Kreditvergabe übertragen.

Zum systematischen Ausschluss nutzten die Forscher eine Reihe von Modellen, die mehrere Situationen abdecken. Sie halten den Einwand nicht für überzeugend, weil die Gesamtzahl der eingestellten Personen nicht davon abhängt, ob Unternehmen denselben Algorithmus verwenden. Stattdessen könnte Monokultur die Verhandlungsposition der Bewerber stärken. "Alle Stellen werden besetzt, und gleich viele Menschen haben einen Job, aber die Unternehmen konkurrieren um denselben Kandidatenpool, was die Löhne tatsächlich nach oben treibt", sagt Raghavan.

Auch Einwände zur Handlungsfähigkeit (Agency) prüften sie. Ein Bewerber, dessen Lebenslauf an jedes Unternehmen mit demselben Algorithmus weitergeleitet wird, hat nie die Chance, ihn anzupassen. Hedden hält das für einen guten Einwand gegen schlechte Formen von Monokultur, sagt aber, er greife nicht, wenn Bewerber ihre Unterlagen überarbeiten und erneut einreichen können.

Eine weitere Sorge ist, dass sich ein einzelnes System manipulieren lässt, etwa durch die Umformatierung eines Lebenslaufs. Hedden zufolge ist nicht offensichtlich, dass ein einziger Algorithmus dies stärker begünstigt als viele verschiedene. Bei vielen könnte ein Bewerber nämlich die Algorithmen einiger weniger Firmen gezielt ansteuern und sich bei einigen Arbeitgebern einen Vorteil verschaffen.

Echokammern und die Lösung per Ensemble

Die Forscher beweisen mathematisch, dass Monokultur tendenziell informationelle Echokammern erzeugt, die die Exploration behindern können. Das hängt mit der Theorie der "Weisheit der Vielen" aus der Sozialpsychologie zusammen, nach der eine vielfältige Gruppe unabhängiger Entscheider besser abschneiden kann als eine Einzelperson. Bei der Personalauswahl könnten diverse Algorithmen einen qualitativ hochwertigeren Pool neuer Mitarbeiter hervorbringen, während eine Monokultur dazu führen könnte, dass jedes Unternehmen jedes Mal Kandidaten mit denselben Merkmalen und Qualifikationen einstellt. Das könnte Firmen daran hindern, bessere Alternativen zu finden.

"Monokultur könnte das Ausmaß an Entdeckungen insgesamt verringern. Ob das schlecht ist, ist unklar, aber es ist definitiv ein Anlass zur Sorge, wenn wir KI für Anwendungen wie Wissenschaft, Kunst oder Schreiben entwickeln", sagt Raghavan. Er fügt hinzu, dass sich durch eingebaute Zufälligkeit in einer monokulturellen Plattform mehr Exploration anregen ließe.

Auch die Leistungsfähigkeit spielt eine Rolle. Ist ein einzelner Algorithmus deutlich genauer als die vielen Algorithmen verschiedener Unternehmen, könnte die Monokultur das bessere System sein. Eine weitere Option ist, die Einstellungsalgorithmen mehrerer Unternehmen zu einem "Ensemble-Algorithmus" zu bündeln, der jedem Bewerber einen Score auf Basis des Durchschnitts zuweist. In Simulationen verschiedener Einstellungssituationen bestätigten die Forscher, dass ein solches Ensemble die Nutzung mehrerer Algorithmen manchmal übertreffen kann. Wie praktikabel ein Ensemble in der Praxis wäre, müsse noch erforscht werden, so Hedden.

Was das für den Einsatz von KI bedeutet

Die Ergebnisse legen nahe, dass sich die Folgen gemeinsam genutzter Algorithmen nicht abstrakt beurteilen lassen. Die Forscher weisen darauf hin, dass andere Bereiche, etwa die Erstellung von Inhalten mit generativer KI oder KI-gestützte wissenschaftliche Forschung, anders funktionieren könnten und Monokultur dort problematischer sein dürfte.

"Viele Antworten auf die Chancen und Risiken algorithmischer Monokultur werden vom Kontext abhängen", sagt Raghavan. Er fügt hinzu, dass mehr empirische Arbeit nötig sei. Die Forscher hoffen, dass ihre Studie weitere Untersuchungen zu den langfristigen Folgen algorithmischer Monokultur anstößt.