21.08.2024

Was müssen Personalabteilungen wissen?

EU-Verordnung zur Regulierung von KI

Im Juni 2024 ist die EU-Verordnung zur Regulierung von Künstlicher Intelligenz, kurz „EU AI Act“ in Kraft getreten. Das neue Gesetz bringt auch für das Personalmanagement deutscher Unternehmen umfassende Änderungen mit sich, insbesondere in Bezug auf den Einsatz von KI in HR-Prozessen. Dieser Beitrag bieten einen Überblick über die wichtigsten Anforderungen an Human Resources.

Mädchen_an_PC_Hologramm

Grundsätzlich definiert der EU AI Act vier Risikokategorien für KI-Systeme: verboten, hochriskant, begrenzt und minimal riskant. Diese Klassifizierung beeinflusst die jeweiligen Anforderungen an Transparenz, Überprüfung und Dokumentation von KI-Systemen. Im HR-Bereich sind insbesondere hochriskante und begrenzte KI-Anwendungen von Bedeutung.

Hochrisiko-KI-Systeme im HR-Bereich

Für KI-Anwendungen mit hohem Risiko gelten strenge Vorschriften. Personalabteilungen müssen alle betroffenen Mitarbeiter über den Einsatz von KI-Systemen informieren, um Transparenz und Aufklärung zu gewährleisten. Darüber hinaus müssen KI-Systeme kontinuierlich überwacht werden, und ihre Aktivitäten müssen für mindestens sechs Monate protokolliert werden. Vor der Implementierung ist eine umfassende Risikobewertung erforderlich, und es müssen regelmäßige Konformitätsprüfungen durch unabhängige Stellen durchgeführt werden, um die Einhaltung der Vorschriften sicherzustellen.

Verbotene und begrenzte KI-Anwendungen

Bestimmte KI-Anwendungen sind untersagt. Dazu gehören Systeme zur Manipulation oder zur Erkennung von biometrischen Daten.

Anwendungen, die Emotionen erkennen oder manipulieren sowie personalisierte Werbung, unterliegen spezifischen Transparenzanforderungen. Diese „begrenzten“ Systeme müssen deutlich kennzeichnen, dass sie KI nutzen, und den Nutzern Optionen zur Abmeldung bieten.

Herausforderungen und Pflichten für HR

Personalabteilungen sehen sich mit verschiedenen Herausforderungen konfrontiert. Sie müssen zum Beispiel umfassende Dokumentations- und Transparenzpflichten gegenüber Behörden und betroffenen Personen einhalten. Dazu gehört die Offenlegung, wie KI-Systeme im Unternehmen eingesetzt werden und welche Risiken damit verbunden sind. Außerdem müssen technische und organisatorische Maßnahmen ergriffen werden, um die Qualität der verwendeten Daten sicherzustellen.

Ferner ist die technische Robustheit, Genauigkeit und Sicherheit der KI-Systeme regelmäßig zu überprüfen. Darüber hinaus besteht die Verpflichtung, eine qualifizierte Aufsichtsperson für die Überwachung der KI-Systeme zu benennen und zu schulen. Diese Person muss die überwachten KI-Systeme im Bedarfsfalle anpassen oder stoppen.

Vorteile für HR

Der EU AI Act bietet den Personalabteilungen auch Vorteile: Durch klare und einheitliche Regeln wird das Vertrauen in KI-Systeme gestärkt, die Akzeptanz und der Einsatz solcher Technologien kann entsprechend steigen. Zudem fördert der Act hohe Standards für Datenqualität, technische Robustheit und die ethische Nutzung von KI – mit positiven Auswirkungen auf die Qualität der eingesetzten Systeme.

Nationale Spielräume und Umsetzungsfristen

Obwohl der EU AI Act direkt in den Mitgliedstaaten gilt, gibt es nationale Spielräume, insbesondere bei der Regelung von biometrischen Systemen und der Festlegung von Bußgeldern. Die meisten Vorschriften müssen bis Sommer 2026 umgesetzt werden, einige Anforderungen treten jedoch bereits früher in Kraft.

Ausblick

Der EU AI Act bringt einen erhöhten Compliance-Aufwand mit sich, kann jedoch auch das Vertrauen in KI-Systeme stärken und deren Qualität verbessern. Personalabteilungen sollten sich frühzeitig auf die neuen Regelungen vorbereiten, um empfindliche Bußgelder zu vermeiden. Zu den empfohlenen Maßnahmen gehören eine gründliche Evaluierung der bestehenden KI-Systeme, um mögliche Risiken zu identifizieren und zu minimieren, sowie der Aufbau klarer Prozesse für das Risikomanagement und die Dokumentation. Schulungen für Mitarbeiter zum Umgang mit KI-Systemen sind essenziell, um die Compliance sicherzustellen und die Fähigkeiten im Umgang mit der neuen Technologie zu stärken. Eine enge Zusammenarbeit mit IT-Abteilungen, Rechtsberatern und Führungskräften ist notwendig, um die Einhaltung der neuen Vorschriften sicherzustellen und die Implementierung effizient zu gestalten.

Quelle: Arbeitsgericht Essen, Urteil mit Az. 3 Ca 2231/23

Neueste Beiträge

21.08.2024

Steuerfortentwicklungsgesetz

Neuausrichtung der Steuerklassen...

lesen
21.08.2024

EuGH-Urteil zur Arbeitszeiterfassung

Viele Herausforderungen für...

lesen
21.08.2024

A1-Bescheinigungen für Dienstreisen

Wichtige Fragen und Antworten Im...

lesen
21.08.2024

Was müssen Personalabteilungen wissen?

EU-Verordnung zur Regulierung von...

lesen
SP_Data GmbH
Engerstraße 147
Herford
NRW
Telefon: 05221 9140 0

Amtsgericht Bad Oeynhausen HRA 3714, persönlich haftende Gesellschafterin:

SP_Data Verwaltungs GmbH, Amtsgericht Bad Oeynhausen, HRB 5300.

Geschäftsführer: Diplom-Wirtschaftsingenieur Stefan Post.

Impressum