15. April 2021

Neue EU Richtlinien zum Umgang mit KI

Viele aktuelle Programme für den Personalbereich enthalten ein gewisses Maß an »intelligenten« Empfehlungen oder Vorhersagen.

Damit werden die Regulierungen zum Datenschutz und, falls es sich um Mitarbeiterdaten handelt (im Recruiting ja »noch« nicht) und ein Betriebsrat besteht, auch für die Mitbestimmung relevant.

Als Personalleiterin (oder Leiter) ist es unerlässlich, dass Sie verstehen,

  1. wo sich die KI in Ihrem Unternehmen befindet,
  2. wie sie funktioniert,
  3. wie sie an- und ausgeschaltet wird und
  4. wo sie Fehler machen kann.

KI-basierte Programme können Einblicke bieten, die wir normalerweise nicht haben würden, aber sie geben keine Antworten. Sie geben uns hoffentlich bessere Fragen und Möglichkeiten, um darauf zu achten, was in unseren Organisationen tatsächlich vor sich geht.

Neue EU-zum Umgang mit KI-Systemen sollen im ersten Quartal 2022 in Kraft treten. https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206

Diese neuen Bestimmungen verlangen, dass Anbieter und Benutzer von KI-Systemen »mit hohem Risiko« den folgenden Anforderungen genügen:

  1. Sie verstehen die Funktionalität und verwenden diese fair und angemessen. 
  2. Sie können Genauigkeit, Verlässlichkeit (d. h. Empfehlungen ändern sich nicht zufällig) und Cybersicherheit gewährleisten.
  3. Diese Systeme müssen fortwährend überwacht und protokolliert werden, so dass die Rückverfolgbarkeit der Systemfunktionen gewährleistet ist.
  4. Sie haben ein Risikomanagementsystem eingerichtet und warten es während der gesamten Laufzeit der Systeme, können bekannte und vorhersehbare Risiken identifizieren und analysieren sowie diese Risiken abschätzen und bewerten und geeignete Risikomanagementmaßnahmen ergreifen.
  5. »jeder, der das System verwendet oder verwaltet, unterliegt sowohl einer automatisierten als auch einer menschlichen Aufsicht«.

 Ziel ist es, Benutzer daran zu hindern, den Empfehlungen der Maschine gedankenlos zu folgen, und zu fordern, dass Systeme und Schulungen auf dem neuesten Stand gehalten dokumentiert & überwacht werden.

Für die HR-Funktion bietet künstliche Intelligenz erhebliche Vorteile und Risiken, die gemanagt werden müssen, und dies wird alsbald einen erheblichen Qualifizierungsaufwand nach sich ziehen, vielleicht bis zu dem Punkt, dass es in vielen Unternehmen eine Stelle gibt, die sich nur mit der sicheren und ethischen Nutzung der künstlichen Intelligenz beschäftigen wird.

0 Kommentare

Einen Kommentar abschicken

Deine E-Mail-Adresse wird nicht veröffentlicht.

LEAN Administration

LEAN Administration

LEAN-Management | Prozessverbesserung Ausgangssituation Der zentraler Servicebereich eines international aufgestellten Automobilzulieferer in der Nähe von Frankfurt am Main bündelt viele Zentralfunktionen, wie insbesondere HR- und IT-Services. Insgesamt waren in...

Future-Skills für den Mittelstand

Future-Skills für den Mittelstand

Qualifikationen für die erfolgreiche Zukunft  – wie Sie sich einen Überblick für Ihre Branche & Unternehmen verschaffen, ohne dafür viel Aufwand und Geld zu investieren. Es ist derzeit nicht einfach, Fachkräfte zu rekrutieren und es wird in Zukunft sicher nicht...

People Analytics

People Analytics

Herausforderungen wie die Digitalisierung, Demografie und Pandemie erfordern in den Unternehmen fundamentale Veränderungen. Um weiterhin erfolgreich zu sein, müssen sich Organisationen transformieren. Traditionelle Organisationsstrukturen werden hybrider und...

Headcount-Reporting

Headcount-Reporting

Beim Zählen von Mitarbeiter:innen kommt es immer wieder zu widersprüchlichen Zahlen und fehlendem Vertrauen in diese Werte. Wie kann das vermieden werden? Headcount zu definieren ist komplex, aber eine lösbare Aufgabe. Dabei gibt es vier Erfolgsfaktoren.  1. Empfänger...