Prompt-Injection im Recruiting ist kein Sonderfall mehr
Viele Unternehmen nutzen KI bereits im Recruiting, vor allem dort, wo es schnell um Sichtung, Strukturierung und Vorauswahl geht. Genau das macht den Prozess effizient. Es schafft aber auch eine neue Angriffsfläche: Bewerbungsunterlagen, die nicht nur Informationen enthalten, sondern versteckte Anweisungen für nachgelagerte KI-Systeme.
Das Problem ist praktisch, nicht theoretisch. Laut der in der Quelle genannten Umfrage nutzen 33 Prozent der Unternehmen, die KI im Recruiting einsetzen, die Technologie zur Analyse von Bewerbungsunterlagen. Weitere 31 Prozent treffen mit ihrer Unterstützung eine Vorauswahl.
In der Quelle wird ein konkreter Fall beschrieben: In einem Lebenslauf war ein Textblock in weißer Schrift auf weißem Hintergrund versteckt. Der Inhalt zielte darauf ab, frühere Vorgaben zu ignorieren und den Bewerber unabhängig von der tatsächlichen Eignung als erstklassigen Kandidaten einzustufen.
Das Entscheidende daran: Der Angriff richtet sich nicht an Menschen, sondern an den automatisierten Verarbeitungsschritt. Wenn Ihr Recruiting-Workflow PDFs, Word-Dateien oder kopierten Text ungeprüft an ein KI-Modell weitergibt, behandeln Sie fremden Input potenziell wie vertrauenswürdige Arbeitsanweisungen. Genau das muss organisatorisch und technisch getrennt werden.
Warum das für den kaufmännischen Mittelstand relevant ist
Viele Entscheider unterschätzen das Risiko, weil sie an klassische IT-Sicherheit denken. Bei Prompt-Injection geht es aber oft nicht um Schadsoftware, sondern um manipulierte Sprache in normalen Dokumenten. Das macht die Sache tückisch.
Der wirtschaftliche Schaden muss nicht spektakulär sein, um relevant zu werden. Schon ein fehlerhafter Shortlist-Prozess kann spürbare Folgen haben:
- ungeeignete Kandidaten rutschen nach vorn
- geeignete Kandidaten werden falsch aussortiert
- Recruiter vertrauen einer verfälschten Priorisierung
- Entscheidungen werden schlechter dokumentierbar
- Compliance- und Fairness-Fragen landen bei HR und Geschäftsführung
Für den kaufmännischen Mittelstand kommt ein weiterer Punkt dazu: Recruiting-Prozesse sind oft schlank organisiert. Es gibt selten ein eigenes Team, das KI-Workflows laufend testet, absichert und überwacht. Gerade deshalb sollten die Schutzmaßnahmen einfach, klar und kontrollierbar sein.
Was Prompt-Injection in Bewerbungen praktisch bedeutet
Im Kern versucht ein Bewerber, den Verarbeitungskontext zu verändern. Die KI soll nicht mehr nur lesen und auswerten, sondern versteckte Befehle befolgen. Das kann sichtbar oder unsichtbar geschehen, zum Beispiel über unauffällige Formatierung, versteckte Textelemente oder Anweisungen, die in Fließtext, Metadaten oder schwer erkennbaren Abschnitten untergebracht sind.
Ob das in jedem Einzelfall funktioniert, hängt vom Workflow ab. Kritisch wird es vor allem dann, wenn Sie solche Aufgaben automatisieren:
- Lebenslauf in Text umwandeln
- Text direkt an ein KI-Modell geben
- Modell um Bewertung, Ranking oder Empfehlung bitten
- Ergebnis ohne menschliche Gegenprüfung weiterverwenden
Je mehr Verantwortung Sie an einen einzigen KI-Schritt abgeben, desto größer das Risiko.
Die wichtigste Grundregel: Bewerbungsdaten sind Daten, keine Anweisungen
Das ist der zentrale Denkfehler in vielen frühen KI-Prozessen. Man gibt dem Modell eine Systemanweisung wie „Bewerte diese Bewerbung anhand unserer Kriterien“ und hängt dann den vollständigen Dokumentinhalt an. Wenn darin versteckte Gegenanweisungen stehen, konkurrieren Daten und Steuerlogik im selben Kanal.
Sauberer ist ein Workflow mit klarer Trennung:
- Dokument entgegennehmen
- Dokument in ein neutrales Zwischenformat überführen
- riskante Elemente entfernen oder markieren
- nur die benötigten Fakten extrahieren
- erst dann strukturierte Auswertung durch KI
- Ergebnis vor Nutzung prüfen und freigeben
Das klingt unspektakulär. Genau deshalb funktioniert es in der Praxis.
Fünf Sofortmaßnahmen, die Sie direkt einführen sollten
1. Keine Rohdokumente direkt an die Auswertungs-KI geben
Der größte Hebel ist banal: Geben Sie PDF- oder Word-Dateien nicht ungefiltert an den Bewertungsschritt weiter. Nutzen Sie davor einen Konvertierungs- und Bereinigungsschritt.
Ziel ist nicht, „alles Unsichtbare“ perfekt zu erkennen. Ziel ist, den Dokumentencharakter zu entschärfen und daraus eine möglichst nüchterne Datengrundlage zu machen.
Praktisch heißt das:
- Text auslesen statt Datei direkt interpretieren lassen
- Formatierungen, Farben, Fußnoten und eingebettete Sonderbereiche entfernen
- nur definierte Felder übernehmen, etwa Berufserfahrung, Ausbildung, Kenntnisse
- Freitext auf sinnvolle Längen begrenzen
2. Erst extrahieren, dann bewerten
Viele Unternehmen lassen ein Modell gleichzeitig lesen, verstehen, gewichten und entscheiden. Das spart einen Schritt, erhöht aber das Risiko deutlich.
Besser ist ein zweistufiger Aufbau:
- Stufe 1: strukturierte Extraktion von Fakten
- Stufe 2: Bewertung dieser Fakten nach festen Kriterien
Der Vorteil: In der zweiten Stufe arbeitet die KI nicht mehr auf dem ursprünglichen Dokument, sondern auf bereinigten, standardisierten Daten. Das reduziert Manipulationsspielraum und verbessert die Nachvollziehbarkeit.
3. Verdächtige Muster automatisch markieren
Sie brauchen keine perfekte Erkennung, um das Risiko deutlich zu senken. Schon einfache Heuristiken helfen, auffällige Bewerbungen in eine manuelle Prüfung zu schieben.
Sinnvolle Prüfregeln sind zum Beispiel:
- ungewöhnlich lange, fachfremde Textblöcke
- Formulierungen, die wie Anweisungen klingen
- Widersprüche zwischen sichtbarem Layout und extrahiertem Text
- versteckte oder schwer erklärbare Textbestandteile
- Inhalte, die explizit Bewertung oder Ranking beeinflussen wollen
Wichtig ist die Reihenfolge: Solche Funde sollten nicht automatisch zur Ablehnung führen, sondern zu einem zusätzlichen Prüfschritt.
4. KI darf empfehlen, aber nicht allein vorsortieren
Gerade in kleineren HR-Teams ist die Versuchung groß, aus Zeitgründen direkt mit automatischen Shortlists zu arbeiten. Das ist der Punkt, an dem aus einem nützlichen Hilfsmittel schnell ein Steuerungsrisiko wird.
Sinnvoller ist:
- KI erstellt Zusammenfassungen oder Merkmalsübersichten
- KI weist auf Passungen und Lücken hin
- Mensch trifft Entscheidung über Einladung, Absage oder Rückfrage
Diese Freigabelogik kostet etwas Zeit. Sie spart aber Ärger, wenn Ergebnisse später hinterfragt werden.
5. Einen klaren Ausnahmeprozess definieren
Wenn Ihr System etwas Verdächtiges findet, muss klar sein, was dann passiert. Sonst bleibt das Team im Tagesgeschäft hängen.
Ein einfacher Prozess reicht oft aus:
- Fall markieren
- Originaldokument manuell prüfen
- KI-Ergebnis nicht weiterverwenden
- Entscheidung dokumentieren
- bei wiederkehrenden Mustern Prüfregeln nachschärfen
Damit machen Sie aus einem diffusen Risiko einen beherrschbaren Standardfall.
Wo die Umsetzung in der Praxis oft scheitert
Die größte Hürde ist selten die Technik, sondern der Prozessschnitt. In vielen Unternehmen liegt das Bewerbermanagement in einem System, die Dokumentenverarbeitung in einem anderen und die KI-Auswertung in einem dritten. Dazwischen entstehen schnell Abkürzungen, die im Alltag bequem wirken, aber die Schutzlogik aushebeln.
Typische Schwachstellen sind:
- direktes Copy-and-paste aus Bewerbungen in KI-Tools
- fehlende Trennung zwischen Extraktion und Bewertung
- unklare Verantwortlichkeit zwischen HR, IT und Datenschutz
- keine Testfälle mit absichtlich manipulierten Lebensläufen
- fehlende Dokumentation, wann KI-Empfehlungen genutzt wurden
Mein Praxistipp: Starten Sie nicht mit der Frage, welches Modell Sie einsetzen wollen. Starten Sie mit einem Whiteboard und zeichnen Sie Ihren Recruiting-Workflow von Eingang bis Entscheidung auf. Markieren Sie jede Stelle, an der unbereinigter Bewerberinhalt in ein KI-System gelangt. Genau dort setzen Sie zuerst an.
Ein pragmatischer Mindeststandard für mittelständische Unternehmen
Wenn Sie das Thema sofort pragmatisch angehen wollen, reicht für den Anfang ein einfacher Mindeststandard:
- keine direkte KI-Bewertung von Rohdokumenten
- vorgelagerte Textbereinigung und Feldextraktion
- definierte Warnsignale für manuelle Prüfung
- menschliche Freigabe vor jeder Vorauswahl
- kurze Dokumentation bei Auffälligkeiten
Das ist kein Hochglanz-KI-Programm. Es ist solide Prozesshygiene. Und genau die braucht es im Recruiting.
Fazit:
Erst absichern, dann automatisieren
KI-gestützte CV-Checks können sinnvoll sein, wenn sie Sichtung und Strukturierung beschleunigen. Sie werden zum Risiko, wenn Unternehmen Dokumente ungeprüft als Eingabe für Bewertung und Vorauswahl verwenden.
Die in der Quelle beschriebenen Fälle zeigen, dass versteckte Anweisungen in Lebensläufen kein exotisches Randthema mehr sind. Wer Recruiting mit KI-Automatisierung betreibt, sollte deshalb keine Rohdaten blind an Modelle übergeben, sondern einen sauberen Prüf- und Freigabeprozess einziehen.
Im kaufmännischen Mittelstand geht es dabei nicht um Perfektion. Es geht um belastbare Standards, die Zeit sparen, Fehlentscheidungen reduzieren und den Prozess fairer und nachvollziehbarer machen.