Die KI-Tools, die Einstellungsentscheidungen beeinflussen können
Erfahren Sie mehr über die KI-Tools, die Arbeitgeber verwenden, um den Bewerbungsprozess zu optimieren, und die damit verbundenen möglichen Probleme.
Das Experiment mit KI-Tools
Um den Einsatz von künstlicher Intelligenz (KI) in der Arbeitswelt zu untersuchen, beschloss die Journalistin Hilke Schellmann, einige der Tools selbst auszuprobieren. Eines dieser Tools war myInterview, ein Einweg-Video-Interview-System zur Unterstützung von Bewerbungsverfahren. Schellmann nahm als Bewerberin an einem solchen Interview teil, und die proprietäre Software analysierte ihre Worte und Stimmintonation, um ihre Eignung für den Job zu bewerten.
Überraschenderweise erhielt Schellmann bei dem Interview, das sie auf Deutsch statt auf Englisch führte, trotzdem eine ordentliche Bewertung, obwohl sie die Fragen nicht beantwortete. Die Transkription ihrer deutschen Antwort durch das Tool ergab keinen Sinn, aber es erkannte dennoch, dass sie nicht Englisch sprach, und bewertete sie aufgrund ihrer Intonation. Dies führte Schellmann dazu, die Wirksamkeit dieser Tools im Einstellungsprozess zu hinterfragen.
Besorgniserregende Pseudowissenschaft und Diskriminierung
Laut Schellmann basieren viele der KI-basierten Einstellungstools nicht nur auf unwirksamen, sondern auch auf besorgniserregenden pseudowissenschaftlichen Ansätzen. So gibt es zum Beispiel keine wissenschaftlichen Beweise dafür, dass die Stimmintonation den Erfolg im Beruf vorhersagen kann. Außerdem können diese Tools Diskriminierung fördern.
Schellmann diskutiert die Schwachstellen der digitalen Überwachung, wie z.B. die Messung der Produktivität auf der Grundlage fehlerhafter Kennzahlen wie Tastenanschlägen und Mausbewegungen. Fortgeschrittene KI-basierte Überwachungstechniken wie Fluchtrisiko-Analyse und Sentiment-Analyse haben ebenfalls eine geringe Vorhersagekraft. Der Einsatz dieser Tools bei der Personalbeschaffung kann schwerwiegende Konsequenzen haben, und Schellmann argumentiert, dass wir uns nicht mit Technologien zufrieden geben sollten, die nicht funktionieren und nicht fair sind.
Mangelnde Transparenz und Vorurteile
Schellmann weist auf die Schwierigkeit hin, zu verstehen, wie Arbeitgeber diese Tools einsetzen, da Unternehmen ihren Einsatz häufig geheim halten. Kandidaten und Mitarbeiter sind sich oft nicht bewusst, dass ihre Einweg-Video-Interviews von KI statt von Menschen beurteilt werden können. Zudem beschränken sich diese Tools nicht nur auf Stundenlohnjobs, sondern dringen auch in wissensbasierte Positionen vor.
Schellmann untersucht vier Klassen von KI-basierten Tools, die bei der Personalbeschaffung eingesetzt werden: Einweg-Interviews, Online-Lebenslauf-Screenings, spielbasierte Bewertungen und die Analyse von Social-Media-Daten. Sie stellt fest, dass keines dieser Tools für den Einsatz bereit ist. Zum Beispiel mangelt es bei spielbasierten Beurteilungen an Klarheit darüber, wie relevante Fähigkeiten bewertet werden, und verschiedene Social-Media-Feeds können zu unterschiedlichen Persönlichkeitsvorhersagen führen. Lebenslauf-Screenings können ebenfalls Vorurteile einführen, wie im Beispiel, bei dem Kandidaten, die Baseball als Hobby angegeben haben, mehr Punkte erhielten als diejenigen, die Softball angegeben haben.
Die Notwendigkeit von Prüfung und Regulierung
Schellmann fordert HR-Abteilungen auf, die von ihnen eingesetzte Einstellungs- und Arbeitsplatzüberwachungssoftware kritischer zu betrachten. Sie schlägt vor, Fragen zu stellen und Produkte zu testen, um deren Wirksamkeit und Fairness sicherzustellen. Sie setzt sich auch für Regulierung ein, idealerweise in Form einer staatlichen Stelle, die diese Tools auf Effektivität und Nichtdiskriminierung prüft, bevor sie auf den Markt kommen. Die Forderung, dass Anbieter technische Berichte über die Entwicklung und Validierung ihrer Tools veröffentlichen müssen, könnte ein Schritt hin zu mehr Transparenz und Verantwortlichkeit sein.
Während diese Tools weiterhin verwendet werden, können Jobsuchende KI-Tools wie ChatGPT nutzen, um sie bei der Erstellung von Anschreiben, der Optimierung von Lebensläufen und der Vorbereitung auf Vorstellungsgespräche zu unterstützen. Schellmann sieht darin eine Möglichkeit für Kandidaten, etwas Macht im Einstellungsprozess zurückzugewinnen.
