Googles KI-Sicherheitsteam schickt Bewerber an der eigenen Vorauswahl vorbei. In einem internen Dokument, das Bloomberg am 10. August 2026 einsah, nennt das AGI Safety and Alignment Team von Google DeepMind eine nicht unerhebliche Wahrscheinlichkeit, dass ein Lebenslauf zu Unrecht aussortiert wird. Google DeepMind bestreitet, dass die eigenen Systeme Bewerber falsch herausfiltern.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Ein Bewerbungsfilter entscheidet in vielen Unternehmen über die erste Runde. Die aussortierten Unterlagen liest danach niemand mehr. Google verkauft genau solche Funktionen für die Personalarbeit mit künstlicher Intelligenz als Teil von Workspace an Firmenkunden, vom Entwurf der Stellenanzeige bis zur Bewertung der Lebensläufe.
Das Wichtigste in Kürze
- Das AGI Safety and Alignment Team von Google DeepMind bittet Kandidaten um ein zusätzliches Formular, damit ein Mensch die Bewerbung überhaupt sieht.
- Ein Sprecher von Google DeepMind widerspricht der Lesart des Dokuments und nennt das Formular einen direkten Draht zum Team.
- Rekrutierungs-Software zählt nach der KI-Verordnung zur Hochrisiko-Klasse. Die Pflichten dazu greifen erst am 2. Dezember 2027.
- Bindend sind heute Artikel 22 DSGVO, das AGG und die Mitbestimmung des Betriebsrats nach § 87 Absatz 1 Nummer 6 BetrVG.
Was steht in dem internen Dokument?
Laut Bloomberg trägt das Papier einen Vertraulichkeitsvermerk. Neben der falschen Aussortierung nennt das Team darin ein zweites Risiko: Die Bewerbung erreicht die Fachleute zu spät. Ein Sprecher von Google DeepMind widerspricht dieser Deutung. Das Formular führe lediglich an der Recruiter-Prüfung vorbei, eine Abkürzung zur Einstellung entstehe dadurch nicht.
Öffentlich einsehbar ist die Stellenausschreibung des Teams vom 31. Juli 2026.[1] Seb Farquhar, Rohin Shah und Neel Nanda bitten darin um je einen Absatz zur Eignung und zur Motivation, weil ein Lebenslauf die inhaltliche Passung kaum zeigt. Die Sichtung übernehmen danach Menschen aus dem Team.
Warum fällt ein guter Lebenslauf durch den Filter?
Eine maschinelle Vorauswahl kennt ihre Fehlerquote nicht. Ein zu Unrecht abgelehnter Kandidat taucht in keiner Statistik auf, weil niemand prüft, wen das System nie durchgelassen hat. Gemessen wird der Durchsatz, nicht die Trefferquote.
Wie unscharf die Bewertung ausfällt, zeigte HackerRank mit seinem quelloffenen Bewerbungssystem: In hundert Durchläufen bewertete das Modell denselben Lebenslauf zwischen 66 und 99 Punkten. Amazon zog seine Recruiting-KI schon 2018 zurück, nachdem das Modell Lebensläufe von Frauen systematisch schlechter bewertete. Forschungsprofile fallen besonders leicht durch, weil ihre Stichworte selten dem Standardraster entsprechen.
Ein Filter, den sein eigener Betreiber mit einem Nebeneingang entschärft, hat seinen Zweck verfehlt. Deutsche Personalabteilungen sollten die maschinelle Vorauswahl deshalb schon jetzt nach den Maßstäben dokumentieren, die ab Dezember 2027 Pflicht werden.
— Markus Seyfferth, Chefredakteur Dr. Web
Schon heute bindend: Artikel 22 DSGVO verbietet die rein automatisierte Absage. Der Europäische Gerichtshof zählt seit dem Urteil C-634/21 auch die maschinelle Vorstufe dazu, sobald die spätere Entscheidung dieser Vorstufe im Wesentlichen folgt.
Welche Regeln gelten in Deutschland für die KI-Vorauswahl?
Rekrutierungs-Software zählt nach Anhang III Nummer 4 der KI-Verordnung zur Hochrisiko-Klasse, die zugehörigen Pflichten greifen aber erst am 2. Dezember 2027.[2] Mit dem Digital Omnibus hat die EU den Termin nach hinten geschoben, wie der Überblick zur verschobenen Hochrisiko-Stufe zeigt.
Bindend bleibt bis dahin Artikel 22 DSGVO. Der Europäische Gerichtshof hat den Anwendungsbereich im Urteil C-634/21 ausgeweitet: Auch eine maschinelle Vorstufe gilt als automatisierte Entscheidung, sobald die spätere Absage dieser Vorstufe im Wesentlichen folgt.[3] Dazu kommen das AGG und die Mitbestimmung des Betriebsrats.
Für Personalabteilungen ergeben sich daraus drei Aufgaben:
- Die Absagen der letzten sechs Monate stichprobenartig gegenlesen und den Anteil falscher Ablehnungen schätzen.
- Den Betriebsrat nach § 87 Absatz 1 Nummer 6 BetrVG vor dem nächsten Wechsel des Bewerbungssystems beteiligen.
- Jede maschinelle Absage von einem Menschen bestätigen lassen, der die Unterlagen tatsächlich gelesen hat.
Der Nebeneingang von Google DeepMind bleibt vorerst die ehrlichste Lösung: ein Mensch am Ende der Kette. Kennzahlen aus KI-Systemen als Maßstab für Personalentscheidungen führen dagegen schnell vor Gericht, wie die Klage von 26 Ex-Beschäftigten gegen Meta zeigt. Die Begriffe rund um die Personalarbeit erklärt unser HR-Glossar.
Quellen
[1] Seb Farquhar, Rohin Shah und Neel Nanda (Google DeepMind): „The AGI Safety and Alignment Team at Google DeepMind is Hiring“ (31.07.2026)
[2] Amtsblatt der EU: Verordnung (EU) 2024/1689 (KI-Verordnung), Anhang III Nummer 4 und Artikel 99
[3] Europäischer Gerichtshof: Urteil in der Rechtssache C-634/21 (SCHUFA Holding) vom 07.12.2023
Mehr Newshunger?
- Google DeepMind verliert den CEO-Posten: Hassabis wird Chefwissenschaftler von Alphabet
- 41 Prozent nutzen KI, 19 Prozent streichen Stellen: Bitkom liefert die ehrliche Zahl
- EnBW senkt den Personalbedarf mit KI, ohne betriebsbedingte Kündigungen
- Was passiert wirklich mit den Jobs? Stanford trennt KI-Hype von der Realität
- EU verschiebt KI-Fristen: Was deutsche Mittelständler 2027 erwartet
