Der EU AI Act: 10 Take-aways für die Personalentwicklung

1. Basics: Darum geht es grundsätzlich im EU AI Act

Der EU AI Act (informell meist KI-Verordnung) ist tatsächlich die weltweit erste umfassende Gesetzgebung zur Regulierung von Künstlicher Intelligenz. Als erste Verordnung dieser Art gibt sie allen EU-Staaten einen Rahmen für die Einführung und Nutzung von KI-Systemen in Organisationen und Unternehmen.

Ein großes Ziel des AI Act ist ein sicherer, nachvollziehbarer und verantwortungsvoller Einsatz Künstlicher Intelligenz zum Schutz der Grundrechte.

Um die Risiken für Nutzende und die Gesellschaft zu minimieren, legt die Verordnung deshalb unter anderem fest, nach welchen Kriterien KI entwickelt und eingesetzt werden muss, um Transparenz und eine ethisch vertretbare Nutzung zu gewährleisten.

In Kraft ist die KI-Verordnung bereits seit dem 2. August 2024, wirklich interessant wird es – vor allem für die Personalentwicklung – aber erst ab dem 2. Februar 2025: Von diesem Stichtag an gelten nämlich die ersten Maßnahmen, unter anderem die Nachweisbarkeit von KI-Kompetenzen bei den Angestellten.

‍

L&D Take-away

‍Der EU AI Act reguliert die Entwicklung und Nutzung Künstlicher Intelligenz, um einen sicheren Einsatz der Technologie sicherzustellen. Er betrifft Unternehmen in allen EU-Staaten. Die ersten Maßnahmen sind ab dem 2. Februar 2025 wirksam.

‍

2. Relevanz: Diese Unternehmen betrifft die KI-Verordnung

Kurz gesagt: Das Gesetz betrifft Organisationen und Unternehmen in allen Branchen und Größen – sofern sie KI in irgendeiner Form einsetzen, entwickeln oder verkaufen. Es gilt also bereits, wenn Mitarbeitende beispielsweise ChatGPT nutzen.

Der AI Act listet unterschiedliche Akteure auf, die von der Verordnung betroffen sind. Die wohl wichtigste – weil besonders schnell wachsende – Gruppe sind Betreiber, also Unternehmen, die Künstliche Intelligenz in eigener Verantwortung im Arbeitsalltag verwenden.

Wenn wir davon ausgehen, dass ein Großteil von Unternehmen bereits jetzt Betreiber im Sinne der KI-Verordnung sind (und diese Zahl tendenziell weiter steigt), scheint die viel interessantere Frage zu sein:

Wie sehr ist das eigene Unternehmen von der KI-Verordnung betroffen?

Hier wird es spannend, denn der AI Act verfolgt einen sogenannten risikobasierten Ansatz. Dabei wird danach kategorisiert, welche Art Künstlicher Intelligenz im Einsatz ist und wofür diese genutzt wird:

Je risikobehafteter oder kritischer die KI-Nutzung ist, desto strenger die Auflagen und Regulationen.

‍

‍

L&D Take-away

‍Ganz einfach: Nutzt dein Unternehmen Künstliche Intelligenz, betrifft euch auch der AI Act. Wie stark, hängt individuell davon ab, wie ihr die Technologie einsetzt.

‍

3. Anforderungen: Wie Unternehmen auf den AI Act reagieren müssen

Um konform mit der KI-Verordnung zu sein, müssen Unternehmen unterschiedliche Kriterien erfüllen, darunter:

• Identifikation und Kategorisierung eingesetzter KI-Systeme,
• Organisation und Definition interner KI-Compliance-Anforderungen, 
• Einführung und Umsetzung von Kontrollmechanismen und Konformitätsprüfungen und
• Aufdecken und Füllen von Kompetenzlücken im Bereich KI.

Bei der Arbeit mit Hochrisiko-KI kommen dazu außerdem Dokumentations- und Berichtspflichten.

Generell lässt sich auch hier sagen: Je kritischer die Nutzung nach AI Act, desto länger wird die To-do-Liste für Unternehmen.

Anders als beim heiklen Thema Datenschutz sind Unternehmen aber übrigens nicht verpflichtet, eine:n KI-Beauftragte:n zu bestimmen. Werden personenbezogene Daten mit KI verarbeitet, kommt die Datenschutzgrundverordnung (DSGVO) zum Tragen.

‍

L&D Take-away

‍Scannen, kategorisieren, schulen – Unternehmen müssen sich mit der KI-Verordnung auseinandersetzen und daraus ihre individuellen Maßnahmen ableiten und umsetzen.

‍

{{blog-guide-link-guide-eu-ai-act="/custom-rich-text"}}

‍

4. Personalentwicklung: Neue To-dos und Rollenprofile

Für die Personalentwicklung ist vor allem Artikel 4 der KI-Verordnung entscheidend:

‍

{{blog-eu-ai-act-article-4-de="/custom-rich-text"}}

‍

Auf gut deutsch und weniger juristisch:

Unternehmen, die Künstliche Intelligenz einsetzen, müssen dafür sorgen, dass ihr Personal über ausreichend KI-Kompetenz verfügt.

Oder sogar noch klarer und ohne Umschweife: KI-Weiterbildungen sind Pflichtschulungen!

Die Zuständigkeit von L&D-Abteilungen wächst also und sie müssen sich daran anpassen. Sei es mit neuen Weiterbildungsinitiativen, der abteilungsinternen Umstrukturierung des Teams oder neuen Rollen wie einer verantwortlichen Person für KI-Compliance.

Dabei sind Personalverantwortliche zunächst selbst eine ihrer wichtigsten Zielgruppen. Zum einen, weil der KI-Einsatz in der Personalentwicklung genauso relevant sein kann, aber vor allem, weil sie selbst ein gutes Verständnis davon haben müssen, welche Gesetzesanforderungen durch Schulungen abgedeckt werden müssen.

‍

L&D Take-away

Alle Mitarbeitende müssen nachweislich für den Umgang mit Künstlicher Intelligenz geschult werden. Um das zu gewährleisten, sollten neue Weiterbildungen konzipiert und unter Umständen neue Rollen im L&D eingeführt werden.

‍

5. KI-Kompetenzen: Fähigkeiten, die alle in Zukunft benötigen

Die große Frage, was denn nun genau die KI-Kompetenzen sind, die alle Mitarbeitenden benötigen, beantwortet der AI Act mit:

‍

{{blog-eu-ai-act-article-3-de="/custom-rich-text"}}

‍

Es geht also nicht darum, zu wissen, wie genau der Algorithmus im Hintergrund das Ergebnis erzeugt. Vielmehr geht es um Grundkenntnisse, die in die Lage versetzen:

1. Technisch: Die Funktionsweise Künstlicher Intelligenz nachzuvollziehen (insbesondere bei Hochrisiko-KI) und KI-Erzeugnisse richtig einzuschätzen und verständlich zu erklären.
2. Rechtlich: Informationseingaben datenschutzrechtlich abzuwägen und durchzuführen.
3. Ethisch: Künstliche Intelligenz nach festgelegten ethischen Standards zu nutzen.
4. Sicherheitsbezogen: Die Technologie mit dem nötigen Risikobewusstsein für potenzielle Schäden einzusetzen.

Wann man in diesem Kontext übrigens von „ausreichend KI-Kompetenzen“ redet, ist in der Verordnung nicht festgelegt.

‍

L&D Take-away

Von Funktionsweise bis Risiken: Die KI-Kompetenzen von Mitarbeitenden umfassen ein technisches, ethisches, rechtliches und sicherheitsbezogenes Grundverständnis Künstlicher Intelligenz.

‍

6. Transparenz: KI-Verständnis und Offenheit von großer Bedeutung

Geht es um das technische Grundverständnis von Künstlicher Intelligenz, gilt das gleiche Prinzip, das auch bei anderen Tools, wie Powerpoint oder Excel, anwendbar ist:

Man muss die Befehle beherrschen, aber nicht den Algorithmus dahinter.

Der Unterschied zu diesen Programmen besteht hauptsächlich in der kreativen, analytischen oder generativen Eigenleistung von KI-Systemen. Laut AI Act müssen Mitarbeitende deshalb besonders in der Lage sein, 

• KI-gestützte Prozesse zu verstehen,
• Entscheidungen der Künstlichen Intelligenz zu bewerten und
• Ergebnisse nachvollziehbar zu erklären. 

Hier gilt wieder: Je risikoreicher das Einsatzgebiet, desto tiefergehend muss das Wissen sein – ganz besonders, wenn man die Technologie nicht nur nutzt, sondern sie sogar (weiter-)entwickelt.

Was der AI Act mit in Kombination verschiedener Erwägungsgründe und Artikel indirekt von Unternehmen fordert, ist letztlich eine Kultur der Offenheit, die durch Transparenz, Risikomanagement und ethische Standards gefördert wird. Eine solche Kultur soll sicherstellen, dass Mitarbeitende ermutigt werden, die neue Technologie einzusetzen und potenzielle Risiken oder Fehler im Umgang mit KI zu melden.

‍

L&D Take-away
‍
Schulungen müssen Mitarbeitenden ausreichend Informationen liefern, um KI-Grundwissen aufzubauen. Zusätzlich sollte die Offenheit gegenüber dem Einsatz Künstlicher Intelligenz gefördert werden, zum Beispiel durch eine gelebte Fehlerkultur.

‍

7. Ethik: Wichtige Prinzipien für den Umgang mit KI

Der ethische Aspekt beim Einsatz Künstlicher Intelligenz ist ein zentraler Punkt im AI Act. Die Einhaltung der Grundrechte ist sogar ein erklärtes Ziel der Verordnung. 

Damit gemeint sind zum Beispiel der Schutz der Menschenwürde oder Nichtdiskriminierung. Genauso spielen Prinzipien der Fairness, Verantwortlichkeit und Nachvollziehbarkeit in KI-Entscheidungen eine wichtige Rolle.

‍

{{blog-eu-ai-act-high-recruiters-info-de="/custom-rich-text"}}

‍

Von der genauen Definition, über das Schulungsformat bis zur Einhaltungskontrolle – die Sensibilisierung für diese Themen ist Teil der neuen Aufgaben in der Personalentwicklung. Idealerweise schafft man es, eine Unternehmenskultur zu fördern, die eine ethische KI-Nutzung unterstützt und sichert.

‍

L&D Take-away

Mitarbeitende auf allen Ebenen müssen die ethischen Standards der KI-Nutzung vermittelt bekommen, diese verinnerlichen und danach handeln.

‍

8. Chancen: Großes Potenzial, trotz Regulation

Es ist richtig: Ein Gesetz wie der EU AI Act impliziert erst einmal Regulation und Einschränkung. Fast die Hälfte der befragten Entscheider:innen in einer Deloitte-Befragung sieht in dem AI Act sogar ein Hindernis für KI-Anwendungen in Organisationen. Nur knapp ein Viertel der Befragten glaubt, dass die neuen Regeln helfen werden.

Trotz aller Regulationen bringt die Verordnung dennoch Positives mit sich – auch für die Personalentwicklung:

• Besonders bei KI-kritischen Unternehmen können die klaren Regeln dafür sorgen, das Vertrauen in die Technologie zu stärken.
• Der zeitliche Druck zur Umsetzung von Maßnahmen kann die Einführung und Nutzung KI-gestützter Werkzeuge und Abläufe beschleunigen.
• Mit geschulten Angestellten und durch einen verantwortungsvollen KI-Einsatz können interne Prozesse zielgerichtet optimiert werden.

Mehr Klarheit und Verständnis über den Einsatz von KI kann demnach die Produktivität und Zukunftsfähigkeit des Unternehmens steigern. Die KI-Verordnung sorgt mit dem rechtlichen Rahmen dabei für die Verpflichtung, sich mit der Technologie auseinanderzusetzen.

‍

L&D Take-away

Bildet die Personalentwicklung alle Mitarbeitenden erfolgreich und gesetzeskonform zu Künstlicher Intelligenz weiter, kann sie einen wichtigen Beitrag zur langfristigen Wettbewerbs- und Innovationsfähigkeit des Unternehmens leisten.

‍

9. Sanktionen: Das droht bei Nichteinhaltung der Vorschriften

Wie bei Gesetzen üblich, drohen auch bei der KI-Verordnung Sanktionen, wenn die gegebenen Vorschriften nicht eingehalten werden. Das Strafmaß ist dabei abhängig von dem Vergehen, dem Ausmaß und der Unternehmensgröße:

• Bei Einsatz verbotener KI-Praktiken drohen Geldbußen bis zu 35 Mio. Euro bzw. 7 % des im Vorjahr weltweit erzielten Umsatzes. 
• Bei Verstößen gegen Konformitätsprüfungen oder Risikobewältigungsmaßnahmen drohen bis zu 15 Mio. Euro bzw. 3 % des Vorjahresumsatzes.
• Falsche, unvollständige oder irreführende Angaben gegenüber Behörden werden mit bis zu 7,5 Mio. Euro bzw. 1,5 % des Jahres Vorjahresumsatzes abgestraft.

Zum Schutz kleiner und mittelständischer Unternehmen sowie Start-ups sind diese finanziellen Sanktionsregeln dabei auf niedrigerem Niveau gedeckelt.

In welchem Grad die Nichtnachweisbarkeit von KI-Kompetenzen sanktioniert wird, formuliert die Verordnung nicht konkret. Es ist aber davon auszugehen, dass auch hier Sanktionen folgen, die „wirksam, verhältnismäßig und abschreckend“ (Artikel 99) sind. Naheliegender Tipp: es nicht darauf ankommen lassen.

‍

L&D Take-away

‍Kann nicht rechtzeitig und nachweislich belegt werden, dass die Mitarbeitenden über ausreichend KI-Kompetenz verfügen, drohen dem eigenen Unternehmen empfindliche Geldstrafen.

‍

10. Weiterbildung: Wie Mitarbeitende lernen, die Anforderungen des AI Act umzusetzen

Die KI-Verordnung erklärt zwar, was unter KI-Kompetenzen zu verstehen ist, definiert aber nicht eindeutig, welche Fähigkeiten Mitarbeitende genau benötigen, wann diese ausreichend vorhanden sind und in welcher Form diese nachzuweisen sind.

Das macht es schwierig für Unternehmen, genauer für die Personalentwicklung, passende Weiterbildungen anzubieten. Reagieren müssen sie trotzdem. 

Nimmt man die Aussagen des Gesetzes zusammen, lässt sich allerdings folgendes Regelwerk ableiten. 

Eine mit dem AI Act konforme Schulung sollte:

1. allen Mitarbeitenden verfügbar sein, die mit oder an Künstlicher Intelligenz arbeiten.
2. technische Grundkenntnisse zu Funktionsweise und Einsatzmöglichkeiten von KI-Systemen erklären.
3. gesellschaftliche wie datenschutzrechtliche Chancen und Risiken der Technologie aufzeigen.
4. ethische Standards für die Nutzung vermitteln und die Fähigkeit fördern, KI-Ergebnissen korrekt zu bewerten. 
5. nachweisbar sein, zum Beispiel durch die Dokumentation von Abschlüssen oder Zertifikate.

‍

Der KI-Grundkurs von Masterplan erfüllt genau diese Kriterien. Von grundlegendem KI-Wissen bis zu Beispielen im Arbeitsalltag werden Mitarbeitende umfassend in die Nutzung Künstlicher Intelligenz eingeführt und erhalten bei erfolgreichem Abschluss ein Zertifikat.

Wichtig: Dieses Regelwerk ist vor allem für Unternehmen geeignet, in denen Künstliche Intelligenz mit begrenztem Risiko eingesetzt wird. Arbeiten die Mitarbeitenden beispielsweise mit Hochrisiko-KI, muss der Lerninhalt entsprechend angepasst und vertieft werden.

‍

L&D Take-away

KI-Weiterbildungen müssen ein grundlegendes Verständnis von Künstlicher Intelligenz, ihrer Funktionsweise und möglichen Risiken vermitteln und sind z.B. durch ein Zertifikat nachweisbar. Wird mit Hochrisiko-KI gearbeitet, sind tiefergehende Lerninhalte nötig.

‍

{{blog-lp-link-ai-course-de="/custom-rich-text"}}

‍

Rechtzeitig konform! Next Steps für KI-Kompetenz im Unternehmen

Alle Organisationen, die Künstliche Intelligenz bereits einsetzen oder dies künftig tun wollen, drängt der AI Act zum Handeln. Denn bis zum 2. Februar 2025 sollten alle Mitarbeitenden über die nötigen KI-Kompetenzen verfügen.

Damit das klappt, sollten Personalentwickler:innen schon jetzt:

1. Schulungs- und Wissenslücken im KI-Kontext identifizieren: Frühzeitig zu wissen, welche technischen, ethischen und KI-spezifischen Kenntnisse fehlen und aufgebaut werden müssen, beschleunigt den Start einer KI-Weiterbildungsinitiative.
2. die Weiterbildungsstrategie anpassen und ausführen: Um KI-Kompetenzen aufzubauen, braucht es neue Lerninhalte und -impulse. Je schneller der Plan steht und umgesetzt wird, desto eher sind alle rechtlichen Anforderungen erfüllt.
3. kontinuierliche KI-Weiterbildung fördern: Wer Mitarbeitenden heute eine dynamische Lernumgebung bietet, ermöglicht Weiterentwicklung im Gleichschritt mit der Technologie – und sichert die Zukunftsfähigkeit des Unternehmens.

Also: Erfülle nicht nur pünktlich alle EU-Richtlinien, sondern stelle deine Teams für eine erfolgreiche Zukunft auf. Die AI-Act-Uhr tickt!