Human in the Lead vs. Human in the Loop: Was im Recruiting wirklich Kontrolle ist

Ein Recruiter öffnet das ATS. Oben stehen zehn Profile, sauber gereiht von 92 bis 71 Prozent Match. Er liest die Kurzfassungen, verschiebt zwei Personen ins Interview und klickt bei acht auf Absage.

War da ein Mensch beteiligt? Ja. Hat dieser Mensch den Prozess wirklich geführt? Nicht unbedingt.

Wenn die KI vorher bestimmt hat, welche Bewerbungen sichtbar sind, welche Kriterien zählen und wie Unsicherheit dargestellt wird, kann der letzte Klick menschlich aussehen und trotzdem nur eine maschinelle Vorentscheidung bestätigen. Genau hier liegt der Unterschied zwischen Human in the Loop und Human in the Lead.

Der Vergleich ist mehr als Wortklauberei. Er entscheidet darüber, ob Recruiter Fehler entdecken können, ob Bewerberinnen und Bewerber fair geprüft werden und ob menschliche Aufsicht im Sinne des EU AI Acts praktisch funktioniert.[3][4]

Die Kurzfassung

• Human in the Loop kann wirksame Kontrolle sein.[6] Die bloße Anwesenheit eines Menschen reicht aber nicht.[8]
• Human in the Lead bedeutet: Menschen kontrollieren nicht nur einzelne Ergebnisse, sondern auch Ziele, Kriterien, Informationszugang und Systemgrenzen.[3][4]
• Der EU AI Act definiert keinen der beiden Begriffe. Er verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht.[3]
• Für Recruiting-Systeme zählen vor allem Verständnis, Schutz vor Automation Bias, richtige Interpretation, Override sowie die Möglichkeit, das System nicht zu verwenden oder zu stoppen.[3]
• Ein Bestätigen-Button ist kein Nachweis für menschliche Kontrolle.[3][8]

Erst die Begriffe klären

Was Human in the Loop ursprünglich meint

Die Ethik-Leitlinien für vertrauenswürdige KI einer von der EU-Kommission eingesetzten Expertengruppe unterscheiden drei Governance-Modelle.[6] Human in the Loop bezeichnet dort die Fähigkeit eines Menschen, in jeden Entscheidungszyklus einzugreifen.[6] Human on the Loop steht für Eingriffe während der Systemgestaltung und die Überwachung im Betrieb.[6] Human in Command umfasst die Aufsicht über die gesamte Tätigkeit und die Entscheidung, wann, wie oder gar nicht ein System eingesetzt wird.[6]

Diese Leitlinien sind hilfreich, aber nicht rechtsverbindlich.[6] Der EU AI Act selbst arbeitet mit dem Begriff human oversight, auf Deutsch menschliche Aufsicht.[1][3]

Was wir mit Human in the Lead meinen

Human in the Lead ist in diesem Artikel ein Betriebsmodell, kein gesetzlich definierter Begriff. Es verbindet die punktuelle Eingriffsmöglichkeit von Human in the Loop mit der übergeordneten Steuerung, die in den Ethik-Leitlinien eher Human in Command entspricht.[6]

Im Recruiting heißt das:

1. Menschen bestimmen, welche Eignungskriterien legitim und jobbezogen sind.[3][4]
2. Menschen erhalten Zugriff auf die Originalbewerbung und auf relevante Systeminformationen.[3]
3. Menschen können einen Output ignorieren, übersteuern oder rückgängig machen.[1][3]
4. Menschen können Regeln, Automatisierungsschritte oder den gesamten Einsatz stoppen und eskalieren.[3]
5. Menschen bleiben organisatorisch verantwortlich und bekommen dafür Zeit, Kompetenz und Autorität.[4]

Human in the Loop vs. Human in the Lead im Vergleich

Dimension	Human in the Loop, eng umgesetzt	Human in the Lead
Rolle der KI	Die KI erzeugt Score, Ranking oder Empfehlung. Ein Mensch bestätigt oder ändert das Ergebnis.	Die KI bereitet Informationen vor. Menschen kontrollieren Zweck, Kriterien und die daraus folgende Entscheidung.
Position im Prozess	Der Mensch greift an einem definierten Entscheidungspunkt ein.	Menschliche Führung beginnt vor der Konfiguration und reicht bis Monitoring, Beschwerden und Abschaltung.
Kriterienhoheit	Kriterien sind oft bereits im Tool oder Modell festgelegt.	Fachverantwortliche genehmigen Kriterien, testen Proxies und ändern ungeeignete Regeln.
Informationszugang	Sichtbar sind häufig nur Score, Ampel oder Kurzfassung.	Recruiter können Originalunterlagen, relevante Begründungen, Unsicherheit und Systemgrenzen prüfen.
Einzelnes Override	Möglich, wenn das Interface es erlaubt.	Möglich, begründbar und ohne versteckte Nachteile für den Recruiter.
Systemisches Override	Nicht zwingend vorgesehen.	Wiederkehrende Fehler führen zu Regeländerung, manueller Prüfung oder Deaktivierung.
Stopp und Eskalation	Oft außerhalb der Rolle des Recruiters.	Klare Stop-Kriterien, Eskalationsweg und verantwortliche Person sind vorab festgelegt.
Lernschleife	Overrides bleiben Einzelfälle.	Overrides, Fehlerbilder und Beschwerden werden ausgewertet und in Prozessverbesserungen übersetzt.
Nachweis	„Am Ende entscheidet ein Mensch.“	Logs, Stichproben, dokumentierte Abweichungen, getestete Stop-Funktion und nachvollziehbare Verantwortlichkeiten.

Wichtig ist die Einschränkung: Human in the Loop ist nicht automatisch schlecht. Ein gut gestalteter Loop kann echte Kontrolle ermöglichen.[6] Problematisch wird er, wenn der Mensch zwar klicken darf, aber weder genug Informationen noch Zeit, Kompetenz oder Autorität für eine unabhängige Entscheidung hat.[4][8]

Vier Recruiting-Fälle, die den Unterschied sichtbar machen

Praxisfall	Nur ein Mensch im Loop	Human in the Lead
Ungewöhnliche Berufsbezeichnung	Ein „Production Engineer“ landet wegen fehlendem Keyword „Site Reliability Engineer“ weit unten und wird nie geöffnet.	Recruiter prüfen Randfälle und Stichproben außerhalb der Top-Liste, erkennen die Gleichwertigkeit und korrigieren Mapping und Bewertung.
Karrierepause	Ein längerer Gap senkt den Score, obwohl er für die konkrete Rolle nicht relevant ist. Der Recruiter sieht nur die Ampel.	Die Originalbewerbung bleibt sichtbar. Das Team prüft, ob der Gap als sachlich ungeeigneter Proxy wirkt, entfernt das Kriterium und kontrolliert frühere Fälle.
Muss-Kriterium falsch erkannt	Das System übersieht eine Zertifizierung in einem Freitextfeld. Der Recruiter bestätigt die Absage aufgrund des Scores.	Der Recruiter prüft die Belegstelle, übersteuert die Empfehlung und lässt die Extraktionsregel testen, bevor weitere Bewerbungen verarbeitet werden.
Fehler wiederholt sich	Einzelne Recruiter korrigieren gelegentlich, das System läuft unverändert weiter.	Ab einer definierten Fehlerschwelle stoppt die automatische Vorauswahl. Ein Owner entscheidet über manuelle Prüfung, Korrektur oder Abschaltung.

Der entscheidende Punkt: Ein Override rettet eine Bewerbung. Ein Stopp- und Lernmechanismus schützt den gesamten Prozess.[3][4]

Was der EU AI Act tatsächlich verlangt

1. Recruiting kann Hochrisiko sein, aber nicht jedes Tool ist es automatisch

Anhang III des EU AI Acts nennt KI-Systeme, die für Recruiting oder Auswahl eingesetzt werden, insbesondere für gezielte Stellenanzeigen, das Analysieren und Filtern von Bewerbungen und die Bewertung von Kandidatinnen und Kandidaten.[1]

Die Einstufung hängt trotzdem vom konkreten Verwendungszweck ab.[2] Artikel 6 sieht Ausnahmen für bestimmte Systeme vor, die etwa nur eng begrenzte Verfahrensaufgaben erledigen oder eine vorbereitende Aufgabe ausführen, sofern sie kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen und Entscheidungen nicht wesentlich beeinflussen.[2] Systeme, die Profiling natürlicher Personen durchführen, gelten im Anwendungsbereich von Anhang III stets als hochriskant.[2]

Für HR bedeutet das: Nicht die Produktbeschreibung „KI-Assistent“ entscheidet, sondern der tatsächliche Einfluss auf Sichtbarkeit, Reihenfolge, Bewertung und Auswahl.[1][2]

2. Artikel 14 macht Aufsicht handlungsfähig

Artikel 14 verlangt, dass Hochrisiko-Systeme so gestaltet werden, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können.[3] Die vorgesehenen Personen müssen je nach Kontext insbesondere:[3]

• Fähigkeiten und Grenzen des Systems verstehen,[3]
• Auffälligkeiten, Fehlfunktionen und unerwartete Leistungen überwachen,[3]
• sich der Gefahr bewusst bleiben, Outputs automatisch oder übermäßig zu vertrauen, also Automation Bias,[3]
• Ergebnisse richtig interpretieren können,[3]
• entscheiden können, das System nicht zu verwenden oder einen Output zu ignorieren, zu übersteuern oder rückgängig zu machen,[1][3]
• in den Betrieb eingreifen oder das System über einen Stopp-Mechanismus unterbrechen können.[3]

Damit beschreibt Artikel 14 deutlich mehr als eine formale Schlussfreigabe.[3] Die Aufsicht muss informiert, unabhängig und wirksam sein.[3][8]

3. Artikel 26 gibt Deployern konkrete Verantwortung

Unternehmen, die ein Hochrisiko-System einsetzen, sind im AI Act in der Regel Deployer.[1] Nach Artikel 26 müssen sie unter anderem die Gebrauchsanweisung beachten, die Aufsicht qualifizierten Personen mit notwendiger Kompetenz, Schulung und Autorität übertragen, den Betrieb überwachen und kontrollierbare Logs grundsätzlich mindestens sechs Monate aufbewahren.[4]

Vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz sind zudem Arbeitnehmervertretungen und betroffene Beschäftigte zu informieren.[4] Wird ein Hochrisiko-System für Entscheidungen über natürliche Personen genutzt, müssen die betroffenen Personen darüber informiert werden.[4] Datenschutzrechtliche Pflichten bleiben daneben bestehen.[4][7]

4. Die neue Frist ist der 2. Dezember 2027

Der im Juli 2026 in Kraft getretene Digital Omnibus on AI hat die Anwendung der Hochrisiko-Regeln für Systeme nach Anhang III auf den 2. Dezember 2027 verschoben.[1][5] Das ist zusätzliche Vorbereitungszeit, kein Freibrief für einen Kontrollprozess, der nur auf dem Papier menschlich ist.

Andere Pflichten und andere Gesetze können früher oder unabhängig davon greifen.[1][5][7] Besonders relevant bleibt Artikel 22 DSGVO bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung.[7] Die europäischen Datenschutzleitlinien betonen, dass menschliches Eingreifen sinnvoll und nicht bloß symbolisch sein muss.[8] Die prüfende Person braucht Kompetenz und die Befugnis, die Entscheidung zu ändern.[8]

Die Human-in-the-Lead-Matrix für Recruiting-Teams

Kontrollrecht	Operative Frage	Mindestnachweis
Kriterienrecht	Wer entscheidet, welche Merkmale für die konkrete Stelle zählen?	Freigegebener Kriterienkatalog mit Jobbezug und Version
Prüfungsrecht	Kann der Recruiter Originaldaten, Unsicherheit und relevante Begründungen sehen?	Rollen- und Rechtekonzept, dokumentierte Stichproben
Override-Recht	Kann eine Empfehlung ohne Umweg geändert werden?	Override-Log mit Grund und Ergebnis
Stopp-Recht	Wer darf Automatisierung aussetzen, und wann?	Definierte Schwellen, benannter Owner, getesteter Fallback
Eskalationsrecht	Wohin gehen wiederkehrende Fehler oder Beschwerden?	Eskalationsweg, Reaktionszeit, dokumentierte Maßnahmen

Diese fünf Rechte sind kein offizieller Katalog des AI Acts. Sie übersetzen die Anforderungen an wirksame Aufsicht in einen prüfbaren Recruiting-Prozess.[3][4]

Ein 30-Minuten-Test mit den letzten 20 Vorauswahlen

Nehmen Sie die letzten 20 Bewerbungen, bei denen ein KI-System sortiert, bewertet oder zusammengefasst hat.

1. Öffnen Sie nicht nur die Top-Ergebnisse, sondern auch fünf abgelehnte oder niedrig gerankte Profile.[3][8]
2. Vergleichen Sie Score und Kurzfassung mit den Originalunterlagen.[3]
3. Suchen Sie nach falsch erkannten Titeln, Zertifikaten, Zeiträumen und Muss-Kriterien.[3]
4. Prüfen Sie, ob Recruiter die Empfehlung mit einem dokumentierten Grund ändern konnten.[3][4]
5. Klären Sie, was bei einem wiederkehrenden Fehler passiert wäre: weiterklicken, eskalieren oder stoppen?[3][4]
6. Messen Sie, wie oft der Mensch abweicht. Eine Quote von null Prozent ist nicht automatisch Qualität. Sie kann auch bedeuten, dass niemand wirklich prüft.[3][8]

Wenn Sie nicht beantworten können, warum ein Profil unsichtbar blieb oder wer den Prozess stoppen darf, ist die menschliche Führung noch nicht belastbar.[3][4]

Fazit: Kontrolle beginnt vor dem Bestätigen-Button

Human in the Loop beantwortet die Frage: Kann ein Mensch an dieser Stelle eingreifen?

Human in the Lead stellt die größere Frage: Kann ein Mensch den Zweck, die Kriterien, die Information und die Systemgrenzen tatsächlich bestimmen?

Für wirksame menschliche Aufsicht braucht Recruiting beides: einen erreichbaren Eingriffspunkt und eine Organisation, die dem Menschen echte Entscheidungsmacht gibt.[3][4][8] Ohne Zugriff auf Originalinformationen, ohne Override, ohne Stopp-Recht und ohne Lernschleife bleibt der Mensch leicht die Unterschrift unter einer Entscheidung, die längst gefallen ist.[3][4]

Sources

[1] https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:02024R1689-20260727 — EU AI Act, konsolidierte Fassung vom 27. Juli 2026 [2] https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6 — EU AI Act, Artikel 6: Einstufung als Hochrisiko-System [3] https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 — EU AI Act, Artikel 14: Menschliche Aufsicht [4] https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26 — EU AI Act, Artikel 26: Pflichten der Deployer [5] https://digital-strategy.ec.europa.eu/en/news/ai-omnibus-enters-force — EU-Kommission: AI Omnibus tritt in Kraft [6] https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai — AI HLEG: Ethik-Leitlinien für vertrauenswürdige KI [7] https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:32016R0679 — EUR-Lex: Datenschutz-Grundverordnung, Artikel 22 [8] https://ec.europa.eu/newsroom/article29/redirection/document/49826 — WP29-Leitlinien zu automatisierten Entscheidungen und Profiling

Hinweis: Dieser Beitrag bietet eine fachliche Einordnung und keine Rechtsberatung. Die rechtliche Einstufung hängt vom konkreten System, Zweck, Prozess und nationalen Kontext ab.