Der Einsatz von KI-Tools ist längst gelebte Realität. Hier mal schnell eine Dokumentation fürs Schulungs-Handbuch erstellt, dort eine Stellenausschreibung formuliert. Manche KI-basierte HR-Tools ranken Ihre Top 10 Bewerber und lassen andere Bewerbungen durchs Raster fallen. Und genau das ist rechtlich problematisch und kann teuer werden.
EU AI-Act – kurz und knackig erläutert:
Bereits im August 2024 hat die EU mit Einführung der EU Verordnung AI Act (Artificial Intelligence Act) einen verbindlichen rechtlichen Rahmen verabschiedet mit dem Ziel,
- vertrauenswürdige KI und verantwortungsvolle KI-Innovationen in Europa zu fördern und
- die potenziellen Risiken, die mit dem Einsatz von Künstlicher Intelligenz verbunden sind, zu minimieren.
Um Bedenken entgegenzutreten, dass KI-Systeme diskriminieren könnten,
- z. B. wenn sie auf voreingenommenen Datensätzen basieren (KI Bias),
- Nutzer manipulieren oder täuschen
- oder verwendet werden könnten, um Menschen unrechtmäßig zu überwachen.
Der EU AI Act legt besondere Anforderungen für unterschiedliche Arten von KI fest, abhängig von ihrem Risikopotenzial. Kurz um gilt: je höher das Risiko, desto strenger die Anforderungen.
Der EU AI Act Compliance Checker ermöglicht eine erste Einordnung für Anbieter von KI-Systemen (Systementwickler) und checkt, ob Ihr System ein KI-System im Sinne des EU AI Act ist. Die umfangreichsten Pflichten müssen Unternehmen erfüllen, die als Anbieter von Hochrisiko-KI definiert werden. Unter Abschnitt II des AI Acts finden Unternehmen die technischen, sicherheitsrelevanten und organisatorischen Pflichten, die im Falle von Nicht-Einhaltung zu hohen Bußgeldern führen können.
Für Betreiber (Nutzer KI-basierter Systeme), worunter der Einsatz von HR-Software fällt, gelten besondere Pflichten im Sinne der Risikominimierung. Für den Einsatz sog. Hochrisiko-KI-Systeme gelten besondere Hinweis-, Schulungs- und Entscheidungspflichten.
Die Bundesregierung schafft 2026 einen verbindlichen Rechtsrahmen:
Die Bundesregierung hat nun auf nationaler Ebene einen Gesetzesentwurf verabschiedet, der ab dem 02.08.2026 in Kraft treten wird. Im Kern soll Innovation durch KI gefördert werden, Grundrechte geschützt und Vertrauen in KI gestärkt werden. Um diese Ziele zu konkretisieren, gelten verschärfte Regelungen für sogenannte „risikoreiche Systeme.“
Was bedeutet das für den Einsatz von KI im Personalmanagement?
KI-basierte Tools, die Leistungsmerkmale automatisiert auswerten und die Grundlagen zur Auswahl-, Beurteilungs- oder Beförderungsentscheidung liefern, gehören zur Gruppe der sog. „Hochrisiko-KI“.
Dazu zählen:
- Recruiting-Systeme
- Beurteilungs- und Beförderungssysteme
- Performance-Überwachung
Bei der KI-basierten Bewerberauswahl gilt: Tools, die ein automatisiertes Bewerber-Screening durchführen und z.Bsp. ein Top-10-Ranking erstellen sind ohne Überprüfung und endgültige Entscheidung durch HR oder Führungsverantwortliche schlichtweg unzulässig. Gleichzeitig besteht eine Informationspflicht zur Art der Anwendung und Auswahlentscheidung gegenüber Bewerbern.
Rein KI-basierte Ableitung von Leistungsmerkmalen, für die beeinflussende, manipulierende KI-Technik eingesetzt wird, ist ebenso unzulässig. Das bedeutet, dass der Einsatz von KI-basierten Tools, die das Ziel verfolgen, aus Reaktionszeiten oder Antwortverhalten Performance abzuleiten, nicht erlaubt sind. Beispiel dazu sind Self-Learning-Tools, die durch Klickverhalten Reaktionszeiten messen und durch das permanente Einblenden von Motivations-Button „Super, fast geschafft“, „70% – Bleib dran!“ unterschwellig Leistungsdruck aufbauen.
Darunter fallen auch Kamera-unterstützte KI-Tools zur Emotionserkennung, die Körperhaltung/Stimme/Gesichtsausdruck/Gestik aufzeichnen und daraus automatisiert Motivationsparameter ableiten.
Unternehmen sind in der Verantwortung!
Hinweis- und Transparenzpflichten: Der Einsatz KI-basierter Tools ist grundsätzlich zulässig und kann z.B. als Grundlage für Auswahlentscheidungen herangezogen werden. KI ersetzt aber nicht die menschliche Prüfung und finale Entscheidung. Das gilt insbesondere im Rahmen der automatisierten Bewerberauswahl und nimmt auch Personalvermittlungsunternehmen mit in die Verantwortung.
Im Kundenservice gelten z.B. Hinweis- und Transparenzpflichten, wenn Chatbots, virtuelle Assistenten etc. in Kommunikationsprozessen eingesetzt werden. Mittlerweise haben wir uns schon an den Austausch mit vorgeschalteten Chatbots gewöhnt, wenn wir bei Telekommunikationsanbietern, Versicherungen, Online Sellern etc. anrufen. Auch bei vielen Ärzten hat „Jupp“, Ihr freundlicher Sprachassistent die Rolle der telefonischen Terminvereinbarung oder Rezeptbestellung übernommen.
Schulungspflichten: Wer kennt das nicht? Wir alle nutzen AI-Bots wie Chat GPT wie selbstverständlich nicht nur privat, sondern auch im beruflichen Alltag z.B. für Formulierungsvorschläge für Emails, Korrespondenz oder Dokumentationsaufbereitung jeglicher Art. Im Umgang mit personenbezogenen Daten gelten jedoch besondere Risikovorschriften. Niemand möchte gesundheitsrelevante, sensible personenbezogene Daten im Chatbot verarbeitet wissen, denn KI als lernendes System vergisst nichts und einmal erfasste Daten können Sie auch nicht zurückfordern.
Bereits seit dem 2. Februar 2025 verpflichtet Artikel 4 des EU AI Acts alle Unternehmen, die KI-Systeme einsetzen oder entwickeln, zur Sicherstellung ausreichender KI-Kompetenz bei ihren Mitarbeitenden. Artikel 4 schreibt kein festes Curriculum vor, sondern eine Organisationsverantwortung: Wirksame Schulungskonzepte, interne Richtlinien oder Multiplikatorenprogramme sind derzeit gleichermaßen anerkannte Maßnahmen.
Wer haftet?
AI-Chatbots kann man nicht verklagen, wenn z.B. mit Chat GPT generierte Inhalte sich als unsinnig oder falsch erweisen und im Worstcase Schaden anrichten.
Als Ersteller KI-basierter Dokumente bleiben Sie verantwortlich und letztlich schadenersatzpflichtig für das, was Sie veröffentlichen. Und das kann natürlich alle Wirtschafts- und Lebensbereiche durchdringen.
Dazu muss man sich vergegenwärtigen, dass ChatGPT und ähnliche Modelle mit riesigen Datenmengen aus dem Internet trainiert werden, die Menschen verfasst haben, einschließlich echter Gespräche. Daher können die Antworten des Modells oft wie von einem Menschen formuliert klingen. Dies liegt daran, dass das Design des Systems darauf abzielt, die Antworten so nah wie möglich an die Originaldaten anzulehnen, mit denen es trainiert wurde. Es ist jedoch wichtig zu beachten, dass die Antworten manchmal ungenau, nicht wahrheitsgemäß oder irreführend sein können, weil das Modell versucht, Muster in den Trainingsdaten nachzuahmen.
Eigentlich ist es doch ganz einfach:
- Ein Bewusstsein entwickeln, um KI als Hilfsmittel zu verstehen
- Vertrauenswürdige und geprüfte Tools einsetzen
- Transparenz- und Informationspflichten beachten
- Im Lead bleiben und finale Entscheidungen treffen