Der neue EU-AI-Rahmen: Auswirkungen auf Eure HR-Digitalisierung

Veröffentlicht am 07.06.2024

Die Europäische Union hat mit dem "AI Act" den weltweit ersten umfassenden Rechtsrahmen für Künstliche Intelligenz verabschiedet. Für die meisten Regelungen erwarten eine Umsetzung in nationales Recht zum Jahr 2026 - also in nicht allzu weiter Ferne. 

Diese Verordnung zielt darauf ab, den sicheren und ethischen Einsatz von KI innerhalb der EU zu gewährleisten und hat weitreichende Implikationen für alle Branchen, insbesondere für das Personalwesen. In diesem Artikel beleuchten wir die wichtigsten Punkte der Verordnung und deren Auswirkungen auf HR-IT-Strategien und Projekte aus der Sicht von meHRsalz.

ÜberblickEU AI Act

Der "AI Act" der EU klassifiziert KI-Systeme in verschiedene Risikogruppen und setzt strenge Vorschriften für deren Einsatz. Hier sind die wichtigsten Elemente der Verordnung: 

Risikoklassifizierung

  • Unakzeptables Risiko: Systeme wie Echtzeit-Gesichtserkennung im öffentlichen Raum sind verboten.
  • Hohes Risiko: Anwendungen im Gesundheitswesen, Bildungswesen und in der Strafverfolgung unterliegen strengen Anforderungen und müssen umfangreichen Prüfungen standhalten.
  • Begrenztes und minimales Risiko: Hier gelten weniger strenge Regeln, aber Transparenz- und Aufklärungspflichten bleiben bestehen. 

Konkrete Beispiele in HR

Systeme, welche Menschen bewerten, sind als Hochrisiko-Anwendungen einzustufen: Egal ob bspw. Bewerber:innen-Vorselektion oder das finden von Talenten im Unternehmen.

Einen HR-Chat-Bot könnte man bspw. unter begrenztem Risiko einordnen. Der Chatbot sollte sich zu Beginn des Gesprächs dann als solcher identifizieren und dem Benutzer die Möglichkeit bieten, mit einem*r menschlichen Mitarbeiter*in zu sprechen. 

Transparenz und Offenlegung

Anbieter*innen müssen offenlegen, wenn Inhalte von KI generiert wurden, und die Datenquellen dokumentieren, die zur Schulung der KI verwendet wurden.
Es besteht eine Pflicht zur Kennzeichnung von KI-generierten Inhalten, insbesondere bei Deepfake-Technologien und generativen KI-Systemen wie Chatbots.

Verbot von "Social Scoring"

Der Einsatz von KI für "Social Scoring", wie es in China praktiziert wird, ist verboten. Dies soll den Schutz der Privatsphäre und der individuellen Freiheiten gewährleisten.

Auswirkungen aufHR-IT-Strategien

Die Einführung des AI Act bringt für HR-Abteilungen sowohl Herausforderungen als auch Chancen. Hier sind einige Maßnahmen, die HR-Teams ergreifen sollten, um den neuen Vorschriften gerecht zu werden und gleichzeitig die Vorteile von KI-Technologien zu nutzen.

1. Compliance und Risikomanagement

Durchführung von Risikoanalysen

Identifiziert alle eingesetzten KI-Systeme und bewertet deren Risikoklasse. Systeme in Hochrisiko-Kategorien müssen gründlich überprüft werden, um sicherzustellen, dass sie den neuen EU-Vorschriften entsprechen.

Implementierung von Transparenzanforderungen

Dokumentiert alle Datenquellen, die zur Schulung der KI verwendet werden, und stellt sicher, dass alle KI-generierten Inhalte klar gekennzeichnet sind. Dies erhöht die Transparenz und das Vertrauen der Mitarbeiter*innen in die eingesetzten Systeme.

2. Technologische Anpassungen

Evaluierung und Modifikation bestehender Systeme

Überprüft und modifiziert bestehende KI-Systeme, um sicherzustellen, dass sie den neuen Vorschriften entsprechen. Dies kann bedeuten, dass bestimmte Technologien ersetzt oder angepasst werden müssen.
Fragen Sie Ihre Anbieter spezifisch nach den folgenden Punkten:

  1. Transparenz: Welche Maßnahmen haben sie ergriffen, um sicherzustellen, dass die von ihren Systemen generierten Inhalte klar als KI-generiert gekennzeichnet sind?
  2. Datensätze: Wie dokumentieren und verwalten sie die Daten, die zur Schulung der KI verwendet werden?
  3. Risikoanalysen: Haben sie ihre Systeme gemäß den neuen Risikoklassifizierungen der EU überprüft und zertifiziert?

Integration neuer Technologien

Prüft bei der Einführung neuer Tools, die KI nutzen, ob die Anbieter (Tool und Content) den EU-Vorgaben entsprechen und dies auch dokumentieren können. Nehmt diesbezügliche Kriterien für die Anbieterauswahl mit auf. So könnt ihr bspw. sicherstellen, dass neue Tools die Aufklärungs- und Transparenzanforderungen erfüllen und selbst klar kommunizieren, wenn Inhalte KI-generiert sind.

3. Umgang mit inoffiziellen Tools

Bewertung und Dokumentation

Erfassen und bewerten Sie die Nutzung inoffizieller Tools wie ChatGPT oder Copilot, die möglicherweise von Mitarbeiter*innen verwendet werden. Stellen Sie sicher, dass diese Tools den neuen Transparenzanforderungen entsprechen und keine sensiblen oder personenbezogenen Daten verarbeiten.

Regelungen und Richtlinien

Entwickeln Sie klare Richtlinien für den Einsatz solcher Tools und informieren Sie Ihre Mitarbeiter*innen über die Risiken und Vorschriften durch die Nutzung von nicht offiziellen KI-Tools.

Sichert Euch jetzt eine kostenlose Erstberatung
Hier könnt ihr uns eine Nachricht schreiben.

4. Transparenz und Kommunikation

Informiert die Mitarbeiter* innen umfassend über den Einsatz von KI und die Maßnahmen zur Sicherstellung der Vorschriftenkonformität. Schafft Feedback-Schleifen, durch die Mitarbeiter*innen ihre Bedenken und Anregungen äußern können.

5. Schulung und Sensibilisierung

Entwickelt Schulungsprogramme, die HR-Mitarbeiter*innen über die neuen Vorschriften und deren Auswirkungen informieren. Fördert ein Verständnis für die ethischen Implikationen des KI-Einsatzes, um Vertrauen und Akzeptanz zu stärken.

6. Implementierung eines Überwachungs- und Berichtsmechanismus

Kontinuierliche Überwachung und Anpassung

Führt regelmäßige, dokumentierte und strukturierte Tests durch, um sicherzustellen, dass die KI-Systeme keine falschen oder unangemessenen Antworten liefern, keine Wissenslücken aufweisen und keine vertraulichen Daten preisgeben. Plant zudem regelmäßige interne (und/oder) externe Audits der KI-Systeme. Diese müssen nicht allzu umfänglich, aber gut dokumentiert sein.

Überlegt, spezielle Monitoring-Systeme, die kontinuierlich die Leistung und Compliance der KI-Systeme überwachen, einzuführen. Solche Systeme können in der Lage sein, automatische Benachrichtigungen zu senden, wenn Anomalien oder Verstöße gegen die Vorschriften festgestellt werden. Die Anzahl und Reife dieser Tools sind aktuell jedoch sehr überschaubar. Hier lohnt es sich, den Markt zu beobachten.

Berichterstattung

Entwickelt einen standardisierten Prozess zur Erstellung regelmäßiger Berichte über die Leistung und Compliance der KI-Systeme. Diese Berichte sollten wichtige Kennzahlen und Compliance-Status umfassen und an relevante Stakeholder im Unternehmen weitergeleitet werden.

Kommuniziert die Ergebnisse der Berichte klar und transparent an alle betroffenen Parteien, einschließlich der Geschäftsführung und der Mitarbeitenden sowie deren Vertretung. Dies hilft, Vertrauen aufzubauen und sicherzustellen, dass alle Beteiligten über den Status und die Sicherheit der KI-Systeme informiert sind.

UnserFazit

Die Einführung des AI Act stellt HR-Abteilungen vor neue Herausforderungen, bietet aber auch die Möglichkeit, durch den Einsatz vertrauenswürdiger und transparenter KI-Systeme die Effizienz und Mitarbeiterzufriedenheit zu steigern. Indem HR-Teams die oben genannten Maßnahmen umsetzen, können sie sicherstellen, dass sie den neuen Anforderungen gerecht werden und gleichzeitig die Vorteile der KI-Technologie voll ausschöpfen.


Für weitere Informationen und Unterstützung bei der Umsetzung dieser Maßnahmen steht Euch die meHRsalz-Crew gerne zur Verfügung. Lasst uns gemeinsam die Zukunft der HR-Digitalisierung gestalten!

Quellen / Links:

 

Die auf dieser Website bereitgestellten Informationen stellen keine Rechtsberatung dar und sollen keine rechtlichen Fragen oder Probleme behandeln, die im individuellen Fall auftreten können.

Dir hat der Beitrag gefallen? Folge uns auf LinkedIn oder melde Dich an unserem Newsletter an.

Aus redaktionellen Gründen gendern wir nicht immer, es sind aber natürlich immer alle Geschlechter angesprochen.