EU-Verordnung zur Regulierung von KI
Im Juni 2024 ist die EU-Verordnung zur Regulierung von Künstlicher Intelligenz, kurz „EU AI Act“ in Kraft getreten. Das neue Gesetz bringt auch für das Personalmanagement deutscher Unternehmen umfassende Änderungen mit sich, insbesondere in Bezug auf den Einsatz von KI in HR-Prozessen. Dieser Beitrag bieten einen Überblick über die wichtigsten Anforderungen an Human Resources.
Grundsätzlich definiert der EU AI Act vier Risikokategorien für KI-Systeme: verboten, hochriskant, begrenzt und minimal riskant. Diese Klassifizierung beeinflusst die jeweiligen Anforderungen an Transparenz, Überprüfung und Dokumentation von KI-Systemen. Im HR-Bereich sind insbesondere hochriskante und begrenzte KI-Anwendungen von Bedeutung.
Hochrisiko-KI-Systeme im HR-Bereich
Für KI-Anwendungen mit hohem Risiko gelten strenge Vorschriften. Personalabteilungen müssen alle betroffenen Mitarbeiter über den Einsatz von KI-Systemen informieren, um Transparenz und Aufklärung zu gewährleisten. Darüber hinaus müssen KI-Systeme kontinuierlich überwacht werden, und ihre Aktivitäten müssen für mindestens sechs Monate protokolliert werden. Vor der Implementierung ist eine umfassende Risikobewertung erforderlich, und es müssen regelmäßige Konformitätsprüfungen durch unabhängige Stellen durchgeführt werden, um die Einhaltung der Vorschriften sicherzustellen.
Verbotene und begrenzte KI-Anwendungen
Bestimmte KI-Anwendungen sind untersagt. Dazu gehören Systeme zur Manipulation oder zur Erkennung von biometrischen Daten.
Anwendungen, die Emotionen erkennen oder manipulieren sowie personalisierte Werbung, unterliegen spezifischen Transparenzanforderungen. Diese „begrenzten“ Systeme müssen deutlich kennzeichnen, dass sie KI nutzen, und den Nutzern Optionen zur Abmeldung bieten.
Herausforderungen und Pflichten für HR
Personalabteilungen sehen sich mit verschiedenen Herausforderungen konfrontiert. Sie müssen zum Beispiel umfassende Dokumentations- und Transparenzpflichten gegenüber Behörden und betroffenen Personen einhalten. Dazu gehört die Offenlegung, wie KI-Systeme im Unternehmen eingesetzt werden und welche Risiken damit verbunden sind. Außerdem müssen technische und organisatorische Maßnahmen ergriffen werden, um die Qualität der verwendeten Daten sicherzustellen.
Ferner ist die technische Robustheit, Genauigkeit und Sicherheit der KI-Systeme regelmäßig zu überprüfen. Darüber hinaus besteht die Verpflichtung, eine qualifizierte Aufsichtsperson für die Überwachung der KI-Systeme zu benennen und zu schulen. Diese Person muss die überwachten KI-Systeme im Bedarfsfalle anpassen oder stoppen.
Vorteile für HR
Der EU AI Act bietet den Personalabteilungen auch Vorteile: Durch klare und einheitliche Regeln wird das Vertrauen in KI-Systeme gestärkt, die Akzeptanz und der Einsatz solcher Technologien kann entsprechend steigen. Zudem fördert der Act hohe Standards für Datenqualität, technische Robustheit und die ethische Nutzung von KI – mit positiven Auswirkungen auf die Qualität der eingesetzten Systeme.
Nationale Spielräume und Umsetzungsfristen
Obwohl der EU AI Act direkt in den Mitgliedstaaten gilt, gibt es nationale Spielräume, insbesondere bei der Regelung von biometrischen Systemen und der Festlegung von Bußgeldern. Die meisten Vorschriften müssen bis Sommer 2026 umgesetzt werden, einige Anforderungen treten jedoch bereits früher in Kraft.
Ausblick
Der EU AI Act bringt einen erhöhten Compliance-Aufwand mit sich, kann jedoch auch das Vertrauen in KI-Systeme stärken und deren Qualität verbessern. Personalabteilungen sollten sich frühzeitig auf die neuen Regelungen vorbereiten, um empfindliche Bußgelder zu vermeiden. Zu den empfohlenen Maßnahmen gehören eine gründliche Evaluierung der bestehenden KI-Systeme, um mögliche Risiken zu identifizieren und zu minimieren, sowie der Aufbau klarer Prozesse für das Risikomanagement und die Dokumentation. Schulungen für Mitarbeiter zum Umgang mit KI-Systemen sind essenziell, um die Compliance sicherzustellen und die Fähigkeiten im Umgang mit der neuen Technologie zu stärken. Eine enge Zusammenarbeit mit IT-Abteilungen, Rechtsberatern und Führungskräften ist notwendig, um die Einhaltung der neuen Vorschriften sicherzustellen und die Implementierung effizient zu gestalten.
Quelle: Arbeitsgericht Essen, Urteil mit Az. 3 Ca 2231/23
