Ein Unternehmen in den USA setzte ein KI-System zur Bewerbervorselektion ein. Nach drei Jahren stellte sich heraus, dass das Modell systematisch Frauen benachteiligte, weil die Trainingsdaten aus einer Phase stammten, in der hauptsächlich Männer eingestellt wurden. Der Algorithmus hatte gelernt, was historisch als “erfolgreich” galt.
Das war kein Ausreißer. Es ist das Grundproblem von KI im Recruiting, und es ist lösbar, wenn du weißt, wo die Grenzen liegen.
Was du heute machen kannst
Der Einsatz von KI im Bewerbungsprozess ist nicht grundsätzlich problematisch. Es kommt darauf an, wo und wie.
Stellenanzeigen optimieren ist unkritisch und sinnvoll. KI hilft dabei, inklusivere Sprache zu verwenden, relevante Keywords für Jobbörsen einzubauen und die Anzeige auf die Zielgruppe zuzuschneiden. Das ist Textarbeit, kein Eingriff in Entscheidungen über Personen. ChatGPT oder Claude leisten das ohne spezialisierte HR-Software.
Interviewfragen strukturieren ist ebenfalls unproblematisch. KI generiert strukturierte Fragekataloge zu einer Rolle: verhaltensbasierte Fragen, Kompetenzindikatoren, situative Szenarien. Das spart Vorbereitungszeit und macht Interviews vergleichbarer.
Terminplanung automatisieren über KI-gestützte Scheduling-Tools ist Standard. Calendly, TalentReef, oder ähnliche Systeme koordinieren Slots, erinnern Kandidaten und reduzieren den E-Mail-Ping-Pong.
Das ist der sichere Bereich: KI unterstützt administrative Aufgaben und Texterstellung, ohne über Personen zu urteilen.
Wo der Hochrisikobereich beginnt
Der EU AI Act stuft KI-Systeme, die bei der Personalauswahl eingesetzt werden, explizit als hochriskant ein (Anhang III, Punkt 4).
Das bedeutet: Wer KI zur Bewerbervorselektion, zum automatisierten CV-Ranking oder zur Kandidatenbewertung einsetzt, betreibt ein Hochrisiko-KI-System. Dafür gelten besondere Anforderungen:
- Risikoanalyse und Dokumentation vor dem Deployment
- Technische Robustheit und Genauigkeit des Systems nachweisen
- Menschliche Aufsicht über alle KI-Entscheidungen sicherstellen
- Betroffene über den Einsatz informieren
- Logs führen und auditierbar machen
Das gilt auch für externe HR-Software, die du kaufst oder mietest. Du trägst als Arbeitgeber die Verantwortung, nicht der Softwareanbieter.
AGG: Das deutsche Gleichbehandlungsgesetz
Neben dem EU AI Act greift in Deutschland das AGG (Allgemeines Gleichbehandlungsgesetz). Es verbietet Benachteiligung aufgrund von Geschlecht, Herkunft, Religion, Behinderung, Alter oder sexueller Identität.
Wenn dein KI-System Lebensläufe nach Merkmalen filtert, die mit einem dieser Kriterien korrelieren (Wohnort, bestimmte Schulen, Formulierungsmuster, die häufiger in bestimmten Gruppen vorkommen), entsteht eine mittelbare Diskriminierung. Das ist kein theoretisches Risiko.
Eine Klage wegen AGG-Verletzung durch einen Algorithmus ist in Deutschland bisher selten, aber die Rechtsprechung entwickelt sich. Und Bewerber haben ein Recht auf Auskunft darüber, warum sie abgelehnt wurden.
Mehr dazu, wer bei KI-Fehlern haftet, erklärt der Beitrag Wer haftet, wenn KI einen Fehler macht?.
Das Bias-Problem: Warum historische Daten gefährlich sind
KI lernt aus Daten. Wenn deine Einstellungsdaten der letzten zehn Jahre ein Team spiegeln, das zu 80 Prozent aus einer einzigen demografischen Gruppe bestand, lernt das Modell: Das ist Erfolg.
Das Modell optimiert dann auf dieses Muster, nicht weil es diskriminieren soll, sondern weil es das Muster erkennt und reproduziert. Das Ergebnis ist eine Diskriminierung ohne Absicht, die aber rechtlich genauso relevant ist.
Dagegen hilft: Trainingsdaten prüfen, Outputdaten regelmäßig auf Muster untersuchen, externe Audits, Diverse Review-Teams. Kein Einmalaufwand, sondern laufende Verantwortung.
Checkliste vor dem Einsatz
Bevor du ein KI-System im Recruiting aktivierst, solltest du folgende Punkte klären:
- Trifft das System Entscheidungen über Personen oder unterstützt es nur administrative Prozesse?
- Ist das System als Hochrisiko-KI einzustufen? Falls ja: Sind die EU-AI-Act-Anforderungen erfüllt?
- Wurden die Trainingsdaten auf Bias geprüft?
- Gibt es eine menschliche Kontrollinstanz vor jeder Auswahlentscheidung?
- Sind Bewerber darüber informiert, dass KI im Prozess eingesetzt wird?
- Gibt es eine dokumentierte Grundlage für Ablehnungsentscheidungen?
Wenn auch nur ein Punkt unklar ist, solltest du klären, bevor du deployest. Nicht danach.
Die Perspektive der Bewerber
Für Kandidaten ist der KI-Einsatz im Recruiting noch weitgehend unsichtbar. Das ändert sich. Immer mehr Jobsuchende fragen aktiv, ob KI in der Vorauswahl eingesetzt wird.
Transparenz schafft hier Vertrauen, auch wenn die Antwort “Ja, wir nutzen KI für X, aber jede Entscheidung wird von einer Person überprüft” lautet. Das ist besser als keine Antwort oder eine ausweichende.
Firmen, die offen kommunizieren wie sie KI im Recruiting einsetzen, differenzieren sich damit positiv, besonders bei tech-affinen Zielgruppen, die die Implikationen verstehen.
Den rechtlichen Rahmen für KI in Unternehmen generell erklärt der Artikel KI und Recht: Was Unternehmen 2026 beachten müssen.
Wie du KI sinnvoll integrierst
Fang mit dem Unproblematischen an. Stellenanzeigen, Interviewleitfäden, Terminkoordination. Kein Rechtsrisiko, echter Zeitgewinn.
Wenn du danach weiter willst (CV-Screening, Shortlisting, Matching), dann tue es mit Bewusstsein für die Hochrisikoeinordnung. Systeme wie Greenhouse oder rexx systems bieten Compliance-Funktionen für den deutschen Markt. Hol einen Datenschutzbeauftragten ins Boot. Prüf den Anbieter auf EU-AI-Act-Konformität. Stell sicher, dass ein Mensch die letzte Entscheidung trifft.
KI im Recruiting kann sinnvoll sein. Aber hier gilt: erst Compliance-Prüfung, dann Deployment.
Wenn du KI-Tools für HR und Recruiting suchst, schau in die KI-Tools-Übersicht. Konkrete Anwendungsfälle zeigen, wie KI-optimierte Stellenanzeigen und KI-gestützte Bewerbersichtung in der Praxis aussehen, inklusive rechtlicher Hinweise.
Für regelmäßige Updates zu KI-Recht und HR-Praxis: Newsletter abonnieren.