Viele aktuelle Programme für den Personalbereich enthalten ein gewisses Maß an »intelligenten« Empfehlungen oder Vorhersagen.
Damit werden die Regulierungen zum Datenschutz und, falls es sich um Mitarbeiterdaten handelt (im Recruiting ja »noch« nicht) und ein Betriebsrat besteht, auch für die Mitbestimmung relevant.
Als Personalleiterin (oder Leiter) ist es unerlässlich, dass Sie verstehen,
- wo sich die KI in Ihrem Unternehmen befindet,
- wie sie funktioniert,
- wie sie an- und ausgeschaltet wird und
- wo sie Fehler machen kann.
KI-basierte Programme können Einblicke bieten, die wir normalerweise nicht haben würden, aber sie geben keine Antworten. Sie geben uns hoffentlich bessere Fragen und Möglichkeiten, um darauf zu achten, was in unseren Organisationen tatsächlich vor sich geht.
Neue EU-zum Umgang mit KI-Systemen sollen im ersten Quartal 2022 in Kraft treten. https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206
Diese neuen Bestimmungen verlangen, dass Anbieter und Benutzer von KI-Systemen »mit hohem Risiko« den folgenden Anforderungen genügen:
- Sie verstehen die Funktionalität und verwenden diese fair und angemessen.
- Sie können Genauigkeit, Verlässlichkeit (d. h. Empfehlungen ändern sich nicht zufällig) und Cybersicherheit gewährleisten.
- Diese Systeme müssen fortwährend überwacht und protokolliert werden, so dass die Rückverfolgbarkeit der Systemfunktionen gewährleistet ist.
- Sie haben ein Risikomanagementsystem eingerichtet und warten es während der gesamten Laufzeit der Systeme, können bekannte und vorhersehbare Risiken identifizieren und analysieren sowie diese Risiken abschätzen und bewerten und geeignete Risikomanagementmaßnahmen ergreifen.
- »jeder, der das System verwendet oder verwaltet, unterliegt sowohl einer automatisierten als auch einer menschlichen Aufsicht«.
Ziel ist es, Benutzer daran zu hindern, den Empfehlungen der Maschine gedankenlos zu folgen, und zu fordern, dass Systeme und Schulungen auf dem neuesten Stand gehalten dokumentiert & überwacht werden.
Für die HR-Funktion bietet künstliche Intelligenz erhebliche Vorteile und Risiken, die gemanagt werden müssen, und dies wird alsbald einen erheblichen Qualifizierungsaufwand nach sich ziehen, vielleicht bis zu dem Punkt, dass es in vielen Unternehmen eine Stelle gibt, die sich nur mit der sicheren und ethischen Nutzung der künstlichen Intelligenz beschäftigen wird.
0 Kommentare