Künstliche Intelligenz im Arbeitsrecht: Chancen nutzen, Risiken vermeiden 

Gastbeitrag von Dr. Michael R. Fausel

Der Einsatz künstlicher Intelligenz (KI) verändert die Arbeitswelt in rasantem Tempo. Sie optimiert Prozesse, beschleunigt Entscheidungen und übernimmt immer mehr Aufgaben, die früher von Menschen erledigt wurden. Doch wo Potenzial ist, lauern auch rechtliche Fallstricke – besonders im Arbeitsrecht. Besonders heikel ist der Einsatz von KI im Einstellungsprozess. Durch den unbedachten Einsatz künstlicher Intelligenz können die zuvor vermeintlich gesparten Kosten schnell durch kostenintensive Gerichtsprozesse diskriminierter Bewerber kompensiert werden. Auch Fragen des Datenschutzes und der Mitarbeiterüberwachung dürfen nicht vernachlässigt werden.  

Diskriminierungsrisiken durch KI im Einstellungsprozess 

Eines der größten Risiken beim Einsatz von KI im Arbeitsrecht betrifft die Gefahr der Diskriminierung im Bewerbungsverfahren oder ähnlich gelagerten Prozessen, bei denen eine Entscheidung über die Aufnahme oder den Verbleib einer Person im Unternehmen getroffen wird. KI-Systeme, die zur Vorauswahl über Personalentscheidungen, sei es im Bewerbungsprozess oder im Rahmen einer Beförderung, basieren auf Daten und Algorithmen, die häufig unterbewusst bestehende Vorurteile verstärken. Dabei gilt der Grundsatz: Eine KI ist nur so gut bzw. diskriminierungsfrei, wie die Daten, die man ihr zur Verfügung stellt.  

Ein Beispiel: Wenn ein Unternehmen nach einem „deutschen, männlichen Arbeitnehmer unter 35“ sucht, wird die KI zwangsläufig Bewerber diskriminieren, die diese Merkmale nicht aufweisen. Aber auch weniger offensichtliche Diskriminierungen können auftreten. Wird etwa die Anweisung gegeben, „Einstellungen der letzten zehn Jahre“ zu berücksichtigen, könnte die KI, basierend auf historischen Daten, bevorzugt Männer auswählen, wenn in der Vergangenheit überwiegend Männer eingestellt wurden. Diese Art der mittelbaren Diskriminierung ist besonders problematisch, da sie oft unbemerkt bleibt und schwer nachzuweisen ist.  

Um solche Risiken zu minimieren, müssen Unternehmen sicherstellen, dass die Algorithmen ihrer KI-Systeme regelmäßig überprüft und angepasst werden. Hier ist eine enge Zusammenarbeit zwischen Personalabteilung, Datenexperten und Juristen geboten. Keinesfalls sollte man sich auf die „Neutralität der Maschine“ verlassen – im Gegenteil: wer vom Einsatz künstlicher Intelligenz profitieren möchte, ist gut beraten, sich zuvor mit den potenziellen Risiken auseinanderzusetzen.  

Datenschutz: KI und die Verantwortung im Umgang mit Daten

Neben der Diskriminierung stellt auch das Thema Datenschutz eine zentrale Herausforderung beim Einsatz von KI im Arbeitsrecht dar. KI-Systeme verarbeiten oft große Mengen an personenbezogenen Daten, sei es zur Analyse von Bewerbungen, zur Verwaltung von Arbeitszeiten oder zur Überwachung von Mitarbeiterleistungen. Unternehmen müssen daher sicherstellen, dass die Datennutzung im Einklang mit der Datenschutz-Grundverordnung (DSGVO), dem neuen EU-AI-Act sowie nationalen Regelungen, etwa dem Bundesdatenschutzgesetz erfolgt.  

Ein besonderes Augenmerk liegt hier auf der Transparenz. Mitarbeiter und Bewerber müssen darüber informiert werden, welche Daten von der KI erfasst und zu welchem Zweck sie verwendet werden. Zudem bedarf es einer Rechtsgrundlage für die Datenverarbeitung – sei es die Erfüllung eines Arbeitsvertrags, das berechtigte Interesse des Arbeitgebers oder eine Einwilligung des Betroffenen. Vor der Einführung von KI-Systemen in vielen Fällen eine Datenschutz-Folgenabschätzung erforderlich, um mögliche Risiken frühzeitig zu erkennen und zu minimieren.