Mensch vs. Maschine: Ethik im KI-getriebenen Recruiting
Zusammenarbeit
ZusammenarbeitErstellt am:
14. November 2023202311145 Min.5 Min.
Im Zeitalter der digitalen Revolution hat die Verwendung von Künstlicher Intelligenz im Personalwesen Relevanz erlangt. Dabei stellt sich zunehmend die Frage nach den ethischen Implikationen dieser Technologien im Recruiting. In einem Interview mit der KI-Expertin Maya Pindeus beleuchten wir Fragestellungen, die mit dieser Entwicklung einhergehen.
Wie bewertest du den größer werdenden Einfluss von Künstlicher Intelligenz auf Recruiting-Prozesse aus ethischer Sicht? Welche Bedenken kommen dir dabei in den Sinn?
Der wachsende Einfluss von Künstlicher Intelligenz (KI) auf Recruiting-Prozesse birgt einige ethische Fragen. Ein besorgniserregendes Element ist das Potenzial für Bias, für Voreingenommenheit in KI-Modellen. Wie kann ein KI-Recruiting System fair gestaltet werden kann, ist eine wichtige Frage. Da ist es wichtig zu wissen, dass die Fairness von KI stark von den Daten abhängt, mit denen es trainiert wird.
Das erklärte Ziel ist zwar die Effizienzsteigerung im Bewerbungsprozess. Effizienzsteigerung bedeutet aber nicht Fairness und es ist wichtig zu betonen, dass die Implementierung von KI nicht automatisch zu Fairness führt. Diskriminierung gab es schon immer im Recruiting, und es besteht die Gefahr, dass KI diese Muster reproduziert, wenn es nicht sorgfältig gesteuert wird.
Jeder Mensch hat bestimmte Vorurteile internalisiert. Manche sind uns selbst gar nicht bewusst. Im Recruiting und Arbeitsleben können Unconscious Biases allerdings besonders problematisch sein. Welche es gibt und was wir dagegen tun können? In diesem Artikel erfährst du mehr.
Was macht einen ethischen, fairen Bewerbungsprozess, der auf KI gestützt ist, aus?
Ein ethischer und fairer Bewerbungsprozess, der auf KI basiert,
erfordert, dass KI als hochspezialisiertes Werkzeug betrachtet wird, das
die Entscheidungskraft des Menschen unterstützt und nicht ersetzt. Es
ist entscheidend, die Daten zu verstehen, mit denen ein KI-basiertes
Recruiting-System trainiert wird. Unternehmen sollten die Möglichkeit
haben, diese Daten zu überprüfen und zu ändern, wenn sie als unfair oder
nicht divers genug erachtet werden, beispielsweise wenn sie zu wenige
Informationen über Frauen enthalten.
Ebenso wichtig ist die bewusste Anwendung und Anpassung der
KI-Outputs durch menschliche Entscheidungsträger*innen, um sicherzustellen,
dass diese kontrolliert und an die spezifischen Anforderungen angepasst
werden.
„Menschliche Entscheidungsträger*innen müssen KI-Outputs kontrollieren und an spezifische Anforderungen anpassen.“
Welche Daten werden typischerweise von KI-Recruiting-Tools
verwendet? Wie können Arbeitgeber sicherstellen, dass diese Daten
ethisch und rechtlich korrekt verarbeitet werden?
KI im Recruiting nutzt eine breite Palette von Datenquellen, darunter
Lebensläufe, historische Einstellungsdaten, Interviewtranskripte,
Online-Profile von Plattformen wie LinkedIn, Feedback und Bewertungen,
eigenständige Unternehmensdaten, sowie rechtliche Richtlinien und
branchenspezifisches Wissen.
Die Wirksamkeit und Fairness von
KI-Systemen hängen stark von der Qualität und Vielfalt der trainierten
Daten ab. Arbeitgeber müssen sicherstellen, dass die Verarbeitung dieser
Daten ethisch und rechtlich korrekt erfolgt, indem sie laufende
Überwachung und Anpassungen vornehmen.
Eine Sorge von Menschen ist, dass der Einsatz von KI im
Recruiting Vorurteile und Diskriminierung verstärkt. Ist diese Sorge
berechtigt? Und wenn ja, wie kann dieses Problem in der Praxis umgangen
oder zumindest minimiert werden?
Die Sorge bezüglich Vorurteilen und Diskriminierung durch KI im
Recruiting ist berechtigt. Um diesem Problem zu begegnen, sollten
Algorithmen transparent gestaltet, regelmäßig auf mögliche Bias-Quellen
überprüft und ethische Grundsätze in den Entwicklungsprozess integriert
werden.
Dazu gehört auch eine sorgfältige Auswahl und Diversifizierung
der Trainingsdaten, um sicherzustellen, dass Voreingenommenheit
minimiert werden. Laufende Überwachung und Anpassungen sind
entscheidend, um sicherzustellen, dass KI-Systeme faire und objektive
Entscheidungen im Einstellungsprozess treffen.
„Algorithmen müssen transparent gestaltet und regelmäßig auf mögliche Bias-Quellen überprüft werden.“
Gibt es aktuelle Trends und Entwicklungen im Bereich KI und Recruiting, die die ethische Diskussion vorantreiben könnten?
Ja, aktuelle Trends im Bereich KI und Recruiting betonen verstärkt
die ethische Diskussion. Themen wie algorithmische Transparenz,
Datenschutz, Fairness und Anti-Bias-Maßnahmen stehen im Fokus. Die
Branche strebt danach, ethische Standards bei der Anwendung von KI im
Recruiting zu stärken.
Künstliche Intelligenz (KI) ist in aller Munde, doch wie sieht es mit der Realität in den österreichischen Unternehmen aus? Georg Konjovic spricht mit Arbeitsrechtsexpertin Katharina Körber-Risak und Ars Electronica Direktor Gerfried Stocker über das Potenzial und die Risiken von KI in Bezug auf den österreichischen Arbeitsmarkt.
Wie können Bewerber*innen und Kandidat*innen über fair verwendete KI in Recruiting-Prozessen nicht nur informiert, sondern auch an der Gestaltung beteiligt werden?
Bewerber*innen können über fair verwendete KI in Recruiting-Prozessen informiert und beteiligt werden, indem Unternehmen transparent kommunizieren, wie KI eingesetzt wird. Erklärbarkeit von Entscheidungen sollte sichergestellt werden, und Opt-in-Optionen sowie Feedback-Mechanismen sollten eingeführt werden. Schulungen können angeboten werden, und Bewerber*innen können in die Entwicklung einbezogen werden. Die Einrichtung von Ethikbeauftragten kann ebenfalls dazu beitragen, Bewerber*innen aktiv in den Prozess miteinzubeziehen.
Maya Pindeus ist KI-Unternehmerin, Architektin und Designerin mit Fokus auf die Interaktion von
Mensch und Maschine. Sie ist Mitgründern des KI- Unternehmens Humanising
Autonomy das ethische Künstliche Intelligenz entwickelt, die sich positiv auf
Mensch und Gesellschaft auswirken soll.
Maya ist Absolventin der Universität
für Angewandte Kunst in Wien, dem Imperial College London und dem Royal College
of Art in London. Sie ist “Forbes 30 under 30”-Preisträgerin und ihre Arbeit
in der KI- und Technologiebranche hat weltweit Anerkennung gefunden.
ChatGPT findet in unterschiedlichen Bereichen Anwendung und ist im beruflichen Kontext bei vielen Arbeitnehmer*innen zu einem Fixum geworden. Auch im Recruiting kann die KI unterstützen, beispielsweise bei der Erstellung eines Stelleninserats. Tipps dazu gibt’s in diesem Artikel.
Wenn Bewerbende von sich aus ihre Bewerbung zurückziehen, spricht man von „Drop-out“ – ein Horror für Recruiter*innen, der immer häufiger vorkommt. In den meisten Fällen sind diese Rückzieher eine Frage der Zeit – der Dauer des Bewerbungsprozesses, um genau zu sein. Denn Bewerbende wollen schnelle Rückmeldungen und eine rasche Entscheidung. Mit diesen Tipps kann man den Bewerbungsprozess verbessern:
Mentale Belastungen können unterschiedliche Ursachen haben, doch sie alle wirken sich negativ auf unsere Gemütslage und unsere Leistungsfähigkeit aus. Gut, wenn man in diesen Zeiten Unterstützung bekommt – und noch besser, wenn diese Unterstützung vom Arbeitgeber oder der Arbeitgeberin zur Verfügung gestellt wird. Wie Employee Assistance Programme (kurz: EAP) funktionieren, erfahrt ihr im Blog:
Bist du wirklich happy im Job? Bekanntlich kann man Glück nicht erzwingen, für viele bedeutet eine zufriedenstellende und sinnstiftende Arbeit aber das höchste Glück. Wir haben mit Designikone und „Happy Film“-Regisseur Stefan Sagmeister über den „happy Job“ gesprochen und erfahren, was sein Allheilmittel für mehr Glück in der Arbeit ist.
