Zum Seiteninhalt springen
Zurück zu Zusammenarbeit
KI und Ethik im Recruiting

Mensch vs. Maschine: Ethik im KI-getriebenen Recruiting

Zusammenarbeit Erstellt am: 14. November 2023 5 Min.

Im Zeitalter der digitalen Revolution hat die Verwendung von Künstlicher Intelligenz im Personalwesen Relevanz erlangt. Dabei stellt sich zunehmend die Frage nach den ethischen Implikationen dieser Technologien im Recruiting. In einem Interview mit der KI-Expertin Maya Pindeus beleuchten wir Fragestellungen, die mit dieser Entwicklung einhergehen.

KI birgt Potenzial für Bias #

Wie bewertest du den größer werdenden Einfluss von Künstlicher Intelligenz auf Recruiting-Prozesse aus ethischer Sicht? Welche Bedenken kommen dir dabei in den Sinn?

Der wachsende Einfluss von Künstlicher Intelligenz (KI) auf Recruiting-Prozesse birgt einige ethische Fragen. Ein besorgniserregendes Element ist das Potenzial für Bias, für Voreingenommenheit in KI-Modellen. Wie kann ein KI-Recruiting System fair gestaltet werden kann, ist eine wichtige Frage. Da ist es wichtig zu wissen, dass die Fairness von KI stark von den Daten abhängt, mit denen es trainiert wird.

Das erklärte Ziel ist zwar die Effizienzsteigerung im Bewerbungsprozess. Effizienzsteigerung bedeutet aber nicht Fairness und es ist wichtig zu betonen, dass die Implementierung von KI nicht automatisch zu Fairness führt. Diskriminierung gab es schon immer im Recruiting, und es besteht die Gefahr, dass KI diese Muster reproduziert, wenn es nicht sorgfältig gesteuert wird.

Unconscious Bias am Arbeitsplatz

Aktualisiert am: 07. März 2024 6 Min.

Jeder Mensch hat bestimmte Vorurteile internalisiert. Manche sind uns selbst gar nicht bewusst. Im Recruiting und Arbeitsleben können Unconscious Biases allerdings besonders problematisch sein. Welche es gibt und was wir dagegen tun können? In diesem Artikel erfährst du mehr.

Daten müssen fair und divers sein #

Was macht einen ethischen, fairen Bewerbungsprozess, der auf KI gestützt ist, aus?

Ein ethischer und fairer Bewerbungsprozess, der auf KI basiert, erfordert, dass KI als hochspezialisiertes Werkzeug betrachtet wird, das die Entscheidungskraft des Menschen unterstützt und nicht ersetzt. Es ist entscheidend, die Daten zu verstehen, mit denen ein KI-basiertes Recruiting-System trainiert wird. Unternehmen sollten die Möglichkeit haben, diese Daten zu überprüfen und zu ändern, wenn sie als unfair oder nicht divers genug erachtet werden, beispielsweise wenn sie zu wenige Informationen über Frauen enthalten.

Ebenso wichtig ist die bewusste Anwendung und Anpassung der KI-Outputs durch menschliche Entscheidungsträger*innen, um sicherzustellen, dass diese kontrolliert und an die spezifischen Anforderungen angepasst werden.

„Menschliche Entscheidungsträger*innen müssen KI-Outputs kontrollieren und an spezifische Anforderungen anpassen.“

Maya Pindeus
Maya Pindeus

Welche Daten werden typischerweise von KI-Recruiting-Tools verwendet? Wie können Arbeitgeber sicherstellen, dass diese Daten ethisch und rechtlich korrekt verarbeitet werden?

KI im Recruiting nutzt eine breite Palette von Datenquellen, darunter Lebensläufe, historische Einstellungsdaten, Interviewtranskripte, Online-Profile von Plattformen wie LinkedIn, Feedback und Bewertungen, eigenständige Unternehmensdaten, sowie rechtliche Richtlinien und branchenspezifisches Wissen.

Die Wirksamkeit und Fairness von KI-Systemen hängen stark von der Qualität und Vielfalt der trainierten Daten ab. Arbeitgeber müssen sicherstellen, dass die Verarbeitung dieser Daten ethisch und rechtlich korrekt erfolgt, indem sie laufende Überwachung und Anpassungen vornehmen.

KI kann diskriminierend sein #

Eine Sorge von Menschen ist, dass der Einsatz von KI im Recruiting Vorurteile und Diskriminierung verstärkt. Ist diese Sorge berechtigt? Und wenn ja, wie kann dieses Problem in der Praxis umgangen oder zumindest minimiert werden?

Die Sorge bezüglich Vorurteilen und Diskriminierung durch KI im Recruiting ist berechtigt. Um diesem Problem zu begegnen, sollten Algorithmen transparent gestaltet, regelmäßig auf mögliche Bias-Quellen überprüft und ethische Grundsätze in den Entwicklungsprozess integriert werden.

Dazu gehört auch eine sorgfältige Auswahl und Diversifizierung der Trainingsdaten, um sicherzustellen, dass Voreingenommenheit minimiert werden. Laufende Überwachung und Anpassungen sind entscheidend, um sicherzustellen, dass KI-Systeme faire und objektive Entscheidungen im Einstellungsprozess treffen.

„Algorithmen müssen transparent gestaltet und regelmäßig auf mögliche Bias-Quellen überprüft werden.“

Maya Pindeus
Maya Pindeus

Gibt es aktuelle Trends und Entwicklungen im Bereich KI und Recruiting, die die ethische Diskussion vorantreiben könnten?

Ja, aktuelle Trends im Bereich KI und Recruiting betonen verstärkt die ethische Diskussion. Themen wie algorithmische Transparenz, Datenschutz, Fairness und Anti-Bias-Maßnahmen stehen im Fokus. Die Branche strebt danach, ethische Standards bei der Anwendung von KI im Recruiting zu stärken.

Auswirkungen von KI auf den österreichischen Arbeitsmarkt

Erstellt am: 06. November 2023 8 Min.

Künstliche Intelligenz (KI) ist in aller Munde, doch wie sieht es mit der Realität in den österreichischen Unternehmen aus? Georg Konjovic spricht mit Arbeitsrechtsexpertin Katharina Körber-Risak und Ars Electronica Direktor Gerfried Stocker über das Potenzial und die Risiken von KI in Bezug auf den österreichischen Arbeitsmarkt.

KI-Integration transparent kommunizieren #

Wie können Bewerber*innen und Kandidat*innen über fair verwendete KI in Recruiting-Prozessen nicht nur informiert, sondern auch an der Gestaltung beteiligt werden?

Bewerber*innen können über fair verwendete KI in Recruiting-Prozessen informiert und beteiligt werden, indem Unternehmen transparent kommunizieren, wie KI eingesetzt wird. Erklärbarkeit von Entscheidungen sollte sichergestellt werden, und Opt-in-Optionen sowie Feedback-Mechanismen sollten eingeführt werden. Schulungen können angeboten werden, und Bewerber*innen können in die Entwicklung einbezogen werden. Die Einrichtung von Ethikbeauftragten kann ebenfalls dazu beitragen, Bewerber*innen aktiv in den Prozess miteinzubeziehen.

Über Maya Pindeus #

Maya Pindeus ist KI-Unternehmerin, Architektin und Designerin mit Fokus auf die Interaktion von Mensch und Maschine. Sie ist Mitgründern des KI- Unternehmens Humanising Autonomy das ethische Künstliche Intelligenz entwickelt, die sich positiv auf Mensch und Gesellschaft auswirken soll.

Maya ist Absolventin der Universität für Angewandte Kunst in Wien, dem Imperial College London und dem Royal College of Art in London. Sie ist “Forbes 30 under 30”-Preisträgerin und ihre Arbeit in der KI- und Technologiebranche hat weltweit Anerkennung gefunden.

Stelleninserat mit ChatGPT erstellen

Erstellt am: 08. November 2023 7 Min.

ChatGPT findet in unterschiedlichen Bereichen Anwendung und ist im beruflichen Kontext bei vielen Arbeitnehmer*innen zu einem Fixum geworden. Auch im Recruiting kann die KI unterstützen, beispielsweise bei der Erstellung eines Stelleninserats. Tipps dazu gibt’s in diesem Artikel.


B schedlberger

Bianca Schedlberger
Content Managerin
Mehr erfahren

Entdecke mehr zu diesem Thema

Entscheidungen treffen: Wer öfter Nein sagt, hat mehr vom Leben

Aktualisiert am: 20. Mai 2022 4 Min.

Nein. Ein kleines Wort mit großer Wirkung. Vorausgesetzt, du bringst es über deine Lippen. Wie oft hast du schon Ja gesagt zu Dingen, die du eigentlich gar nicht wolltest? Und am Ende denkst du: Hätte ich doch gleich Nein gesagt! Was falsche oder vermiedene Entscheidungen mit uns machen, damit beschäftigen sich Anja Förster und Peter Kreuz in ihrem Buch "Nein. Was vier mutige Buchstaben im Leben bewirken können".

Lesestoff zum Wochenende: Orbit Organisation schlägt Pyramide!

Erstellt am: 09. August 2019 3 Min.

Traditionelle Unternehmenskulturen sind der wahre Bremsklotz für zeitgemäße, digital transformierte Unternehmen, stellen Anne M. Schüller und Alex T. Steffen fest. Mit ihrem neuen Buch „Orbit Organisation“ liefern sie eine Gebrauchsanweisung für ein modernes „Company Redesign“: weg von klassischen Hierarchien, hin zu einer zirkulären, lebendigen Unternehmensorganisation mit einem Kern aus Sinn und Menschlichkeit.

Der erste Arbeitstag nach der Karenz: Ein Tag als Alien

Erstellt am: 08. Februar 2017 3 Min.

Wer nach einem langen Urlaub wieder an seinen Arbeitsplatz zurückkehrt, kennt es vielleicht: dieses Gefühl, irgendwie von einem anderen Stern zu sein. Man kennt den Ort und die meisten Kollegen noch und doch fühlt sich alles, und vor allem man selbst, fremd an. So ging es mir am 1. Februar, dem Tag meiner Rückkehr aus der zweijährigen Babypause.