Blog

Diskriminierung durch KI-gestützte Entscheidungen

Einer der größten Diskussionspunkte ist die Frage der Diskriminierung. Wenn KI-Systeme Entscheidungen im Bewerbungsprozess oder bei der Personalauswahl treffen, besteht die Gefahr, dass unbewusst Diskriminierung aufgrund von Alter, Geschlecht, Herkunft oder anderen Merkmalen stattfindet. Das Allgemeine Gleichbehandlungsgesetz (AGG) sieht hier besondere Schutzrechte für Arbeitnehmer vor.

Arbeitgeber müssen daher sehr sorgfältig prüfen, welche Daten und Kriterien sie in die KI-Systeme einspeisen. Selbst wenn das Geschlecht oder die Herkunft explizit aus den Entscheidungskriterien herausgenommen werden, könnte bei der Berücksichtigung anderer Faktoren (wie z.B. Berufserfahrung oder Elternzeit) dennoch eine (indirekte) Diskriminierung angenommen werden, auch wenn dies gar nicht beabsichtigt war. Regelmäßige Kontrollen und Anpassungen der KI-Systeme sind daher unerlässlich, um Diskriminierungen bzw. entsprechende Rechtsstreite zu vermeiden.

Höchstpersönliche Arbeitsleistung und Betrug

Ein weiteres Thema ist die Frage, inwieweit der Einsatz von KI die höchstpersönliche Erbringung der Arbeitsleistung durch den Arbeitnehmer infrage stellt. Wenn KI-Systeme Teile der Arbeitsaufgaben übernehmen oder sogar eigenständig Lösungen erarbeiten, ist es fraglich, ob das noch als die persönliche Leistung des Arbeitnehmers gilt.

Hier sind klare Regelungen und Transparenz zwischen dem Arbeitgeber und Arbeitnehmer wichtig. Arbeitnehmer sollten offen kommunizieren, wenn sie KI-Unterstützung in Anspruch nehmen. Andererseits müssen Arbeitgeber auch definieren, in welchem Umfang der Einsatz von KI erlaubt oder verboten ist und wann die persönliche Arbeitsleistung des Mitarbeiters erforderlich ist.

Überwachung und Kontrollmöglichkeiten

Der Einsatz von KI eröffnet Arbeitgebern auch neue Möglichkeiten der Überwachung und Kontrolle. Videoüberwachung, Auswertung von Tastatureingaben oder Bewegungsprofilen können zur Leistungsbeurteilung und Verhaltenskontrolle genutzt werden. Hier ist jedoch das Persönlichkeitsrecht der Arbeitnehmer zu berücksichtigen.

Arbeitgeber müssen genau abwägen, welche Kontrollmaßnahmen verhältnismäßig und rechtlich zulässig sind. Pauschale Überwachung ohne konkreten Anlass ist in der Regel nicht erlaubt. Stattdessen sollte der Arbeitgeber klare Regeln für den Umgang mit KI und Datenschutz im Unternehmen entwickeln, bei Vorhandensein eines Betriebsrates in Zusammenarbeit mit diesem.

Chancen durch den Einsatz von KI

Trotz der rechtlichen Herausforderungen bietet der Einsatz von KI im Arbeitskontext vor allem auch große Chancen. KI-Systeme können Routineaufgaben übernehmen und Arbeitnehmer von zeitaufwendigen, repetitiven Tätigkeiten entlasten. So können sie sich auf anspruchsvollere, kreativere und strategischere Aufgaben konzentrieren.

Darüber hinaus kann KI bei der Personalauswahl und -entwicklung eine objektivere Entscheidungsgrundlage liefern, gerade wenn es nicht lediglich um 2-3 Bewerber geht. Wenn KI-Systeme Bewerbungen und Leistungsprofile analysieren, können Unternehmen Talente unter Umständen besser identifizieren und fördern, ohne dass Vorurteile oder subjektive Einschätzungen eine Rolle spielen.

Fazit: Verantwortungsvoller Umgang mit KI ist entscheidend

Der Einsatz von KI im Arbeitskontext birgt sowohl Chancen als auch Risiken. Entscheidend ist, dass klare Regeln und Leitlinien für den Umgang mit KI-Systemen gelten. Nur so kann der Einsatz von KI die Arbeitswelt tatsächlich verbessern, ohne dass der Arbeitgeber finanziellen Risiken oder einer Rufschädigung ausgesetzt ist oder die Rechte der Beschäftigten gefährdet werden.

Unternehmen sollten daher proaktiv die rechtlichen Rahmenbedingungen prüfen, ggf. auch Mitarbeitende einbinden und KI-Systeme regelmäßig auf die Zulässigkeit und die Auswirkungen (mögliche Diskriminierung oder Überschreitung der Kontrollbefugnisse) überprüfen. Nur so können die Chancen der Digitalisierung verantwortungsvoll genutzt werden.

Weitergehende Informationen

(Praxis-)Hilfen zum Thema „KI & Arbeitsrecht“

KI und Arbeitsrecht: Die Zukunft der Arbeit zwischen Innovation und Regulierung:
https://www.dps-bs.de/blog/ki-und-arbeitsrecht-die-zukunft-der-arbeit-zwischen-innovation-und-regulierung-aktuelle-gesetzeslage-und-ausblick-auf-den-european-ai-act/

KI im Personalwesen – Use Cases, rechtlicher Rahmen und praktische Handhabung:
https://lrz.legal/de/lrz/ki-im-personalwesen-use-cases-rechtlicher-rahmen-und-praktische-handhabung

KI und Arbeitsrecht – Was ist für Unternehmen zu beachten?
https://www.eversheds-sutherland.com/de/germany/insights/ki-und-arbeitsrecht

KI-Verordnung – Was Arbeitgeber wissen müssen:
https://www.cmshs-bloggt.de/rechtsthemen/kuenstliche-intelligenz/ki-verordnung-was-arbeitgeber-wissen-muessen/