Menschliche Aufsicht bei KI im HR: Welche Entscheidungen beim Menschen bleiben müssen

Von Kevin Kim · Aktualisiert am 11. Oktober 2026

Menschliche Aufsicht bei KI im HR bedeutet, dass eine benannte Person die Befugnis, die Informationen und die Zeit hat, ein KI-Ergebnis zu hinterfragen und das Resultat zu ändern, bevor es Beschäftigte oder Bewerber betrifft. Dass jemand auf „Genehmigen“ klickt, zählt nicht. Das haben Aufsichtsbehörden und Forschende gleichermaßen gesagt, und die Forschung dazu, wie Menschen sich gegenüber KI-Empfehlungen tatsächlich verhalten, erklärt, warum.

Diese Seite richtet sich an HR-Direktoren, Führungskräfte und Compliance-Verantwortliche, die entscheiden, wo KI empfehlen darf, wo sie handeln darf und wo ein Mensch die Entscheidung verantworten muss. Sie behandelt, welche HR-Entscheidungen in welche Stufe gehören, was das Recht unter „bedeutsamer“ Beteiligung versteht, wie Sie eine Prüfung gestalten, die kein Theater ist, und was Sie dokumentieren sollten. Sie ergänzt KI im Personalwesen für das Gesamtbild und das Konzept Human-in-the-Loop für das Muster selbst. Dies sind allgemeine Informationen, keine Rechtsberatung.

Wichtige Fakten

• Nach Artikel 22 DSGVO hat eine Person das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (DSGVO Artikel 22).
• Europäische Datenschutzbehörden erklärten, menschliche Beteiligung zähle nur, wenn die Aufsicht „bedeutsam und nicht bloß eine symbolische Geste“ sei und von jemandem ausgeübt werde, „der die Befugnis und die Kompetenz hat, die Entscheidung zu ändern“ (Artikel-29-Datenschutzgruppe, WP251).
• Der EU AI Act stuft KI-Tools für Beschäftigung und Personalführung, etwa Software zur Sortierung von Lebensläufen, als Hochrisiko ein, mit Pflichten ab dem 2. Dezember 2027 (Europäische Kommission).
• In einer Studie der University of Washington mit 528 Personen, die Bewerber anhand simulierter KI-Empfehlungen vorauswählten, folgten die Entscheidungen der Teilnehmenden stark verzerrten KI-Vorschlägen in etwa 90 % der Fälle (University of Washington, November 2025).
• Eine viel zitierte Übersichtsarbeit aus der Human-Factors-Forschung stellte fest, dass Automatisierungsbias bei Einsteigern und Experten auftritt und „sich weder durch Schulung noch durch Anweisungen verhindern lässt“ (Parasuraman und Manzey, Human Factors, 2010).

Was das Recht tatsächlich verlangt

Zwei Instrumente leisten für HR-Teams, die in Europa Menschen einstellen oder führen, den Großteil der Arbeit, und ein drittes Rahmenwerk hilft überall sonst.

DSGVO Artikel 22

Artikel 22 Absatz 1 gibt Einzelpersonen das Recht, keiner ausschließlich auf automatisierter Verarbeitung, einschließlich Profiling, beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Ausnahmen bestehen, wenn die Entscheidung für einen Vertrag erforderlich ist, aufgrund von Rechtsvorschriften mit Schutzmaßnahmen zulässig ist oder auf ausdrücklicher Einwilligung beruht. Selbst dann muss der Verantwortliche in den Fällen von Vertrag und Einwilligung angemessene Schutzmaßnahmen treffen, mindestens das Recht auf Erwirkung des Eingreifens einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung (DSGVO Artikel 22).

Die Leitlinien der Aufsichtsbehörden sind deutlich, was den Trick betrifft, den alle versucht sind anzuwenden. Ein Verantwortlicher kann Artikel 22 nicht umgehen, indem er menschliche Beteiligung vortäuscht. Wer routinemäßig automatisch erzeugte Profile anwendet, ohne das Ergebnis tatsächlich zu beeinflussen, lässt die Entscheidung dennoch „ausschließlich automatisiert“. Die Leitlinien nennen außerdem „E-Recruiting-Verfahren ohne jegliches menschliches Eingreifen“ als typisches Beispiel einer Entscheidung, die jemanden erheblich beeinträchtigt (WP251).

Dann stellt sich die Frage, wie weit „ausschließlich“ reicht. Im SCHUFA-Fall entschied der Gerichtshof der EU am 7. Dezember 2023, dass der automatisierte Wahrscheinlichkeitswert einer Auskunftei als automatisierte Einzelentscheidung gilt, wenn der Dritte, der ihn erhält, sich „maßgeblich“ auf diesen Wert stützt, um über einen Vertrag mit der Person zu entscheiden (EuGH, C-634/21). Der Fall betraf Kredit, nicht Beschäftigung. Die Logik lässt sich aber übertragen: Wenn ein Recruiter fast immer einem Screening-Wert folgt, kann der Wert in der Sache die Entscheidung sein, und der menschliche Schritt schützt Sie nicht.

Der EU AI Act

Der Act behandelt KI in Beschäftigung und Personalführung als Hochrisiko, mit Software zur Sortierung von Lebensläufen als genanntem Beispiel. Nach der Änderung durch das Digital Omnibus gelten die Pflichten für diese Systeme ab dem 2. Dezember 2027, und die Kommission führt „geeignete Maßnahmen zur menschlichen Aufsicht“ unter den Anforderungen auf, wobei Betreiber menschliche Aufsicht und Überwachung sicherstellen (Europäische Kommission). Die Änderung trat am 27. Juli 2026 in Kraft (Lewis Silkin).

Zwei Artikel sind für das HR am wichtigsten:

• Artikel 14 besagt, dass Hochrisiko-Systeme so gestaltet sein müssen, dass Menschen sie wirksam beaufsichtigen können. Die mit der Aufsicht betrauten Personen müssen in die Lage versetzt werden, die Fähigkeiten und Grenzen des Systems zu verstehen, sich „der möglichen Neigung zu einem automatischen oder übermäßigen Vertrauen in das Ergebnis (Automatisierungsbias)“ bewusst zu bleiben, Ergebnisse richtig zu interpretieren und zu entscheiden, das System nicht zu nutzen oder das Ergebnis „außer Acht zu lassen, außer Kraft zu setzen oder umzukehren“ (AI Act Artikel 14).
• Artikel 26 legt dem Arbeitgeber als Betreiber Pflichten auf. Sie müssen die Aufsicht Personen übertragen, die „die erforderliche Kompetenz, Ausbildung und Befugnis“ haben, die automatisch erzeugten Logs des Systems mindestens sechs Monate aufbewahren, sofern andere Rechtsvorschriften nichts anderes vorsehen, und die Arbeitnehmervertretungen und betroffenen Beschäftigten informieren, bevor ein Hochrisiko-System eingesetzt wird (AI Act Artikel 26).

Artikel 86 ergänzt für Personen, die von Entscheidungen auf Grundlage von Hochrisiko-Ergebnissen nach Anhang III betroffen sind, ein Recht auf „klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess“ (AI Act Artikel 86). Das ist ein praktischer Grund, Aufzeichnungen darüber zu führen, was die KI beigetragen hat. Mehr dazu weiter unten.

Außerhalb der EU

Anderswo sind die Regeln ein Flickenteppich, und mehrere US-Landesgesetze zu automatisierten Entscheidungen wurden geändert oder verschoben, prüfen Sie also jeden Ort, an dem Sie einstellen. Das AI Risk Management Framework des NIST, am 26. Januar 2023 veröffentlicht, ist ein freiwilliges US-Rahmenwerk, das Sie in jeder Rechtsordnung als Grundgerüst für die Governance nutzen können (NIST). Und das Recht gegen Diskriminierung im Beruf gilt unabhängig davon, ob Software beteiligt war. Eine Überwachung auf Gruppenebene, etwa der Vier-Fünftel-Vergleich in 29 CFR 1607.4, ist die übliche erste Prüfung für jedes Auswahl-Tool.

Warum „Ein Mensch prüft es“ oft nicht reicht

Die rechtlichen Maßstäbe setzen einen Menschen voraus, der der Maschine wirklich widersprechen kann. Die Forschung legt nahe, dass das schwieriger ist, als es klingt.

Eine Übersichtsarbeit in Human Factors aus dem Jahr 2010 stellte fest, dass Automatisierungsbias Menschen sowohl zu Unterlassungsfehlern (etwas zu übersehen, was das Tool nicht markiert hat) als auch zu Begehungsfehlern (falschem Rat zu folgen) führt. Er tritt bei Einsteigern und Experten auf und „lässt sich weder durch Schulung noch durch Anweisungen verhindern“ (Parasuraman und Manzey). Ein einstündiger Kurs zu den Grenzen von KI ist keine Kontrolle.

Die Belege speziell für die Personalauswahl deuten in dieselbe Richtung. In der Studie der University of Washington wählten 528 Teilnehmende für 16 Jobs Bewerber anhand simulierter KI-Empfehlungen aus. Ohne KI oder mit neutraler KI wählten sie weiße und nicht-weiße Bewerber mit gleichen Quoten. Mit einer mäßig verzerrten KI spiegelten sie die jeweils bevorzugte Gruppe, und bei einer stark verzerrten KI folgten sie ihren Vorschlägen in etwa 90 % der Fälle (University of Washington). Die Empfehlungen waren simuliert, die Studie zeigt also, wie Menschen auf einen verzerrten Vorschlag reagieren, nicht, wie ein reales Produkt abschneidet. Dennoch ist sie eine direkte Warnung: Eine Prüfperson, die zuerst die Auswahl der KI sieht, neigt dazu, sie zu bestätigen.

Das heißt, Aufsicht ist ein Gestaltungsproblem, kein Personalproblem. Sie lässt sich nicht beheben, indem man Prüfenden sagt, sie sollen sorgfältig sein.

Eine Tabelle der Entscheidungsstufen

Es gibt keine einzelne rechtliche Liste, welche HR-Entscheidungen beim Menschen bleiben müssen, und die Antwort hängt von der Rechtsordnung ab. Die Stufen unten sind eine praktische Art, die obigen rechtlichen Maßstäbe anzuwenden: Je stärker eine Entscheidung den Lebensunterhalt, die Rechte oder die Würde einer Person berührt, desto mehr muss ein Mensch sie verantworten. Verstehen Sie dies als Ausgangsrichtlinie, die Ihre Rechtsabteilung anpassen sollte, nicht als Aussage darüber, was ein Gesetz verlangt.

Hinter der Tabelle stehen zwei Prinzipien. Erstens: Je näher eine Entscheidung daran ist, einer Person etwas zu beenden, zu verweigern oder zu kürzen, desto weniger sollte die KI ohne einen Menschen tun können, der die Gründe liest. Zweitens: „Ausschließliche“ Entscheidungen sind nicht nur jene, die ohne Person ablaufen. Dazu gehören auch solche, bei denen eine Person dem Ergebnis verlässlich folgt. Wenn Sie nicht zeigen können, dass eine Prüfperson je widerspricht, haben Sie womöglich ein Problem mit Artikel 22, obwohl formal ein Mensch beteiligt ist.

Praxisbeispiele nach Funktion

• Recruiting. Ein Bewerbermanagementsystem reiht automatisch 800 Bewerber für eine Support-Rolle. Ein Recruiter liest die obersten 40. Bewerber unterhalb dieser Grenze werden faktisch vom Algorithmus abgelehnt. Die Lösung ist, jede Woche eine Zufallsstichprobe des ungelesenen Stapels zu prüfen und zu verlangen, dass eine Person die genannte Begründung sieht, bevor eine K.-o.-Absage erfolgt. Siehe KI-gestützte Lebenslauf-Vorauswahl.
• Leistung und Beförderung. Ein Tool fasst die Notizen und Projektdaten einer Führungskraft zusammen und schlägt eine Markierung „beförderungsbereit“ vor. Die Führungskraft behandelt die Markierung als Antwort. Gute Praxis ist, dass die Führungskraft zuerst ihre eigene Einschätzung schreibt und sie dann mit dem Tool vergleicht, damit die Maschine das Urteil nicht verankert. Mehr dazu in KI im Leistungsmanagement.
• Vergütung. Ein Modell empfiehlt Erhöhungen innerhalb eines Budgets. Eine Führungskraft, die 40 Empfehlungen in zehn Minuten genehmigt, prüft nicht. Begrenzen Sie die Stapelgröße, zeigen Sie zuerst die Begründung für Ausreißer und lassen Sie das HR Muster auf Gruppenebene gesondert prüfen.

So bauen Sie Aufsicht, die kein Abnicken ist

1. Listen Sie jede KI-gestützte Entscheidung im HR auf. Beziehen Sie die unauffälligen ein: Rankings, Markierungen, Hinweise, entworfene Bewertungen. Was Sie nicht gefunden haben, können Sie nicht einstufen. Ein kleines Inventar fördert oft Tools zutage, die Führungskräfte eingeführt haben, ohne es jemandem zu sagen.
2. Ordnen Sie jede Entscheidung einer Stufe und einer benannten Verantwortung zu. Nutzen Sie die obige Tabelle als Vorlage. Die verantwortliche Stelle ist eine Rolle mit echter Befugnis, nicht „das HR-Team“.
3. Geben Sie Prüfenden Befugnis. Artikel 14 und Artikel 26 stellen beide darauf ab, das Ergebnis außer Acht lassen, außer Kraft setzen oder umkehren zu können und die Aufsicht Personen mit Kompetenz und Befugnis zu übertragen (Artikel 14, Artikel 26). Wenn das Übersteuern des Tools drei Unterschriften und eine Entschuldigung kostet, tut es niemand.
4. Geben Sie Prüfenden Informationen. Zeigen Sie die Eingaben, den Grund für das Ergebnis und, wo das System eines liefert, das Vertrauensniveau. Ein nackter Score lädt zur Unterwerfung ein. Hier zeigt erklärbare KI ihren Wert.
5. Geben Sie Prüfenden Zeit. Legen Sie sinnvolle Stapelgrößen fest. Machen Durchsatzziele echte Prüfung unmöglich, haben Sie ein Abnicken gebaut.
6. Ändern Sie die Reihenfolge der Arbeit bei folgenreichen Entscheidungen. Wo es praktikabel ist, bitten Sie die Person um ihre eigene Einschätzung, bevor Sie die der KI zeigen. Das verringert die Verankerung am Vorschlag der Maschine.
7. Verfolgen Sie Übersteuerungsquoten und Prüftiefe. Wenn Prüfende der KI zu 99 % zustimmen, fragen Sie, ob sie zustimmen oder nur klicken. Eine Übersteuerungsquote nahe null ist ein Warnzeichen, keine Erfolgskennzahl (siehe KI im HR messen, wie Sie sie neben anderen Fairness-Kennzahlen verfolgen). Vergleichen Sie Übersteuerungsquoten zwischen Prüfenden und zwischen Gruppen von Bewerbern oder Beschäftigten.
8. Geben Sie Menschen einen Weg zu einer Person. Sagen Sie bei allem Wesentlichen, dass KI beteiligt ist, lassen Sie Menschen um eine erneute Prüfung durch eine Person bitten und ihre Sicht ergänzen. Das entspricht den Schutzmaßnahmen in Artikel 22 Absatz 3 und dem Erklärungsrecht in Artikel 86.
9. Stufen Sie neu ein, wenn sich etwas ändert. Eine neue Modellversion, eine neue Datenquelle oder eine neue Verwendung eines alten Scores kann eine Entscheidung eine Stufe höher rücken.

Auch die Überwachung des Tools selbst gehört hierher. Siehe Verzerrung bei der Personalauswahl durch KI, wie Sie Ergebnisse nach Gruppen testen.

Was Sie dokumentieren sollten

Aufzeichnungen sind das Mittel, mit dem Sie belegen, dass Aufsicht stattgefunden hat, und sie verlangen eine Aufsichtsbehörde, ein Prüfer oder der Anwalt von Beschäftigten. Die Leitlinien der Aufsichtsbehörden besagen, dass ein Verantwortlicher den Grad der menschlichen Beteiligung am Entscheidungsprozess und die Phase, in der sie stattfindet, feststellen und festhalten sollte (WP251). Ein tragfähiges Minimum:

• Die Entscheidung, ihre Stufe und ihre Verantwortung.
• Was die KI erzeugt hat, welche Version es erzeugt hat und was die Prüfperson sah.
• Die Entscheidung der Prüfperson, ihre Begründung bei einer Übersteuerung und die dafür benötigte Zeit.
• Jeder Kontakt der betroffenen Person, etwa eine Bitte um menschliche Prüfung oder um eine Erklärung, und das Ergebnis.
• Logs, aufbewahrt für den Zeitraum, den Ihr Recht verlangt. Bei Hochrisiko-Systemen in der EU bewahren Betreiber die automatisch erzeugten Logs mindestens sechs Monate auf, sofern andere Rechtsvorschriften nichts anderes vorsehen (Artikel 26).

Ein strukturierter KI-Audit-Trail macht das weit einfacher, als Abläufe aus E-Mails zu rekonstruieren.

Häufige Fallstricke

• Einen Klick als Aufsicht zählen. Wenn die Prüfperson das Ergebnis nicht ändern kann oder es nie tut, können Aufsichtsbehörden die Entscheidung als automatisiert behandeln.
• Den Grund verbergen. Prüfende, die nur einen Score sehen, unterwerfen sich ihm.
• Prüfende überlasten. Eine Warteschlange von 200 Vorgängen am Tag garantiert Genehmigung per Voreinstellung.
• Schulung als Lösung behandeln. Die Forschung sagt, dass Bewusstsein allein Automatisierungsbias nicht beseitigt, bauen Sie also Struktur auf, nicht nur einen Kurs.
• Die Übersteuerungsquote als Leistungskennzahl gegen Prüfende verwenden. Werden Menschen abgewertet, weil sie dem Tool widersprechen, hören sie damit auf.
• Den Stapel ignorieren, den niemand öffnet. Absagen, die niemand liest, sind der Ort, an dem sich Fehler und Verzerrungen verstecken.