KI im Recruiting & HR: Was der EU AI Act für Unternehmen bedeutet

Der Einsatz von Künstlicher Intelligenz in HR-Prozessen war bislang ein Innovationsversprechen – schneller, objektiver, effizienter. Doch mit dem Inkrafttreten des EU AI Act rücken rechtliche, ethische und sicherheitsrelevante Fragen für KI im Recruiting und HR in den Vordergrund.

Ob automatisierte Bewerbervorauswahl, KI-gestützte Leistungsbeurteilung oder Monitoring am Arbeitsplatz: Für viele dieser Anwendungen gelten künftig strenge Regeln. Besonders relevant sind dabei Transparenzpflichten, neue Dokumentationsanforderungen und – in einigen Fällen – Verbote.

Für HR-Abteilungen bedeutet das: Prozesse müssen überprüft, Systeme angepasst und Verantwortlichkeiten klar geregelt werden. Der folgende Beitrag zeigt, welche konkreten Änderungen auf Unternehmen zukommen – und was Entscheider jetzt vorbereiten sollten.

1. Der EU AI Act im Überblick – Relevanz für HR

• Der EU AI Act ist am 1. August 2024 in Kraft getreten und wird in Stufen bis 2027 wirksam.
• Ziel: Schutz von Grundrechten und Vertrauensbildung durch einheitliche Vorgaben für den KI-Einsatz.
• Für HR sind vor allem sogenannte „Hochrisiko-KI-Systeme“ relevant – darunter fallen viele Anwendungen im Recruiting, in der Leistungsbewertung und im Monitoring

Wichtige Begriffe:

• Hochrisiko-KI: Systeme, die erhebliche Auswirkungen auf Grundrechte haben können (Art. 6–7 AI Act).
• Verbotene Praktiken: z. B. Emotionserkennung am Arbeitsplatz, intransparente Bewertungssysteme.
• Transparenzpflichten: Arbeitgeber müssen Betroffene informieren, wenn KI im Spiel ist – inklusive Funktionsweise, Entscheidungslogik und Widerspruchsrecht.

2. Verbotene Praktiken – Wo HR künftig klaren Grenzen begegnet

Einige KI-Anwendungen werden im Arbeitskontext durch den EU AI Act vollständig untersagt – insbesondere dann, wenn sie potenziell diskriminierend, manipulierend oder in die Privatsphäre eingreifend wirken.

Diese Praktiken sind künftig verboten (Art. 5 AI Act):

• Emotionserkennung am Arbeitsplatz: z. B. über Kameraauswertung im Bewerbungsgespräch oder Video-Calls.
• Biometrische Kategorisierung: KI, die z. B. Rückschlüsse auf ethnische Herkunft, Religion oder sexuelle Orientierung zieht.
• Social Scoring: Bewertung von Mitarbeitenden auf Basis gesammelter Daten aus verschiedenen Quellen.
• Vulnerabilitätsausnutzung: z. B. gezielte Maßnahmen bei neurodivergenten Personen ohne Aufklärung und Zustimmung.

Konsequenz: Unternehmen müssen bestehende Systeme kritisch prüfen und gegebenenfalls ersetzen oder vollständig einstellen.

3. Hochrisiko-KI in HR – Diese Systeme unterliegen besonderen Pflichten

Laut Art. 6 des EU AI Acts zählen insbesondere folgende HR-Anwendungen zur Hochrisiko-Kategorie:

• KI-gestützte Bewerbervorauswahl (z. B. Matching-Algorithmen, automatisierte Lebenslaufbewertung)
• Systeme zur Leistungsbewertung oder Zielerreichung
• Monitoring-Tools zur Arbeitszeiterfassung, Produktivität oder Fehlverhalten

Pflichten bei Hochrisiko-KI:

Unternehmen müssen unter anderem:

• Risikoanalysen und Dokumentation durchführen
• Transparenz gegenüber Bewerbenden und Mitarbeitenden sicherstellen
• Technische und organisatorische Maßnahmen zur Qualitätssicherung nachweisen
• Menschliche Kontrollinstanzen etablieren (Human Oversight, Art. 14 AI Act)
• Zugriffs- und Protokollsysteme einrichten (Art. 12 AI Act)

Tipp: Prüfen Sie, ob Ihr Anbieter bereits EU AI Act-konform zertifiziert ist – oder ob Anpassungen erforderlich sind.

4. Transparenz und Aufklärung – Neue Rechte für Mitarbeitende und Bewerbende

Der Einsatz von KI-Systemen im HR muss künftig für alle Betroffenen klar erkennbar und verständlich erklärt werden. Das betrifft:

• Den Hinweis auf den KI-Einsatz bei jeder Interaktion (z. B. „Dieses System verwendet KI zur Analyse Ihrer Angaben“)
• Eine Beschreibung, wie und warum das System Entscheidungen trifft
• Möglichkeiten zur Kontaktaufnahme mit einer menschlichen Entscheidungsinstanz
• Widerspruchsrechte bei automatisierten Entscheidungen (Art. 52 AI Act i.V.m. DSGVO Art. 22)

Best Practice: Unternehmen sollten standardisierte Informationsblätter entwickeln, die mit jedem Bewerbungsprozess oder Mitarbeitergespräch übergeben werden.

5. Was Unternehmen jetzt tun müssen – Handlungsempfehlungen für HR-Verantwortliche

Damit die HR-Abteilung KI weiter rechtskonform einsetzen kann, sind folgende Schritte essenziell:

Checkliste:

• Bestandsaufnahme: Welche KI-gestützten Systeme sind im Einsatz?
• Risikoklassifikation: Welche Systeme gelten als Hochrisiko?
• Dokumentation prüfen oder einführen: z. B. für technische Funktionsweise, Datengrundlage, Trainingsdaten.
• Transparenz-Templates erstellen: Information und Aufklärung in Bewerbungsprozessen und HR-Kommunikation.
• Verantwortlichkeiten definieren: Wer ist für Konformität verantwortlich? Wer schult die Mitarbeitenden?
• HR-Tools neu bewerten: Anbieter wechseln oder zusätzliche Kontrollmechanismen einführen.

Nicht vergessen: Der EU AI Act sieht teils empfindliche Bußgelder vor – bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes (Art. 71 AI Act).

Fazit zu EU AI Act Best Practices

Die Integration von KI in HR bleibt möglich – aber nur unter klaren, rechtskonformen Bedingungen. Der EU AI Act schafft dafür ein transparentes Regelwerk, das Unternehmen dazu verpflichtet, nicht nur effizient, sondern auch verantwortungsbewusst zu handeln.

Wer frühzeitig analysiert, plant und umsetzt, kann sich Wettbewerbsvorteile sichern – nicht durch maximale Automatisierung, sondern durch vertrauenswürdige, transparente Prozesse im Umgang mit Bewerbenden und Mitarbeitenden.

Handeln Sie jetzt – fünf Leitfragen zur Governance für KI im Recruiting und HR:

1. Welche KI-Systeme setzen wir im Recruiting und HR bereits ein – und wie sind diese im Sinne des EU AI Act einzuordnen? Beispiel: Bewerber-Matching, Chatbots im Recruiting, Tools zur Leistungsbeurteilung – fallen diese unter Hochrisiko-KI?
2. Wer trägt intern die Verantwortung für den rechtskonformen Einsatz von KI in HR-Prozessen? Ist klar geregelt, ob HR, IT, Datenschutz oder eine zentrale KI-Governance-Einheit zuständig ist – und wie diese zusammenarbeiten?
3. Sind unsere HR- und Recruiting-Prozesse heute schon so gestaltet, dass sie die Anforderungen an Transparenz, Dokumentation und menschliche Kontrolle erfüllen? Oder droht Anpassungsbedarf – etwa bei automatisierten Vorauswahlverfahren oder Score-basierten Performance-Analysen?
4. Wie gut sind unsere HR-Teams, Datenschutzbeauftragten und Compliance-Verantwortlichen auf die Berichtspflichten des EU AI Act vorbereitet? Gibt es standardisierte Verfahren zur Nachvollziehbarkeit von Entscheidungen und zur Kommunikation mit Bewerbenden und Mitarbeitenden?
5. Wo stehen wir im Vergleich zum Wettbewerb – und wie können wir vertrauenswürdige KI im HR als strategischen Vorteil positionieren? Vertrauen wird zur neuen Währung im Arbeitsmarkt – wer hier mit nachvollziehbaren und rechtskonformen KI-Lösungen punktet, sichert sich die Talente von morgen.

Kontaktieren Sie unsere Expertinnen und Experten und sichern Sie sich frühzeitig Wettbewerbsvorteile durch KI-Compliance im Personalmanagement. Erfahren Sie hier mehr über unser Beratungsangebot zur sicheren Umsetzung der neuen KI-Regulierung.