Die europäische KI-Verordnung („EU AI Act“) ist seit dem 02.08.2026 in Kraft. Wir zeigen, welche Pflichten für Ihr Unternehmen sofort wichtig sind. Für Unternehmen, die KI nutzen („Betreiber“) sind zwei Pflichten wesentlich:

• Schulungspflicht der Mitarbeiter und
• Pflicht zur Kennzeichnung von KI-Inhalten („Transparenzpflicht“).

Für Anbieter von Hochrisiko-KI-Systemen (z.B. KI-gestützte Bewerbermanagementsysteme) gelten die zusätzlichen Vorgaben erst ab 02.12.2027.

1. Transparenzpflicht

Entgegen weit verbreiteter Annahmen müssen nicht alle KI-generierten Inhalte als solche gekennzeichnet werden.

Die Kennzeichnungspflicht gilt nur, wenn Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert werden, die ein „Deepfake“ sind. Damit sind Inhalte gemeint, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch erscheinen könnten. Comichafte überzeichnete oder offensichtlich künstliche Inhalte fallen nicht darunter.

Bei KI-erzeugten oder manipulierten Texten gilt die Kennzeichnungspflicht nur, wenn sie veröffentlicht werden und die Öffentlichkeit über „Angelegenheiten von öffentlichem Interesse“ informieren sollen. Wird der Text noch einer menschlichen Überprüfung unterzogen und zudem von jemandem (Mensch oder Unternehmen) redaktionell verantwortet, entfällt die Kennzeichnungspflicht wieder. Bei persönlicher Korrespondenz oder Newslettern von Unternehmen, bei denen die Texte nochmal von Hand redigiert werden, besteht also von vornherein schon keine Kennzeichnungspflicht.

Liegt doch ein zu kennzeichnender KI-Inhalt vor, ist dies im Text zu erwähnen. Inhalte können auch mit einem eindeutigen Logo gekennzeichnet werden.

2. Schulungspflicht

Die Pflicht zur Herstellung einer KI-Kompetenz galt schon ab 02.02.2025, schreibt aber kein konkretes Schulungsprogramm vor. Sie verlangt jedoch, dass Betreiber von KI‑Systemen „nach besten Kräften“ sicherstellen, dass die Personen, die KI im Unternehmen bedienen oder einsetzen, über ein ausreichendes Maß an KI‑Kompetenz verfügen. Dazu gehört mindestens:

• Grundverständnis von KI: Was ist KI? Wie funktioniert KI grob? Welche Systeme setzt das Unternehmen ein? Wo liegen Chancen und Risiken (inkl. Halluzinationen, Fehlerquellen, Grenzen)?
• Rolle des Unternehmens: Entwickelt das Unternehmen eigene KI‑Systeme (Anbieter) oder nutzt es Systeme anderer (Betreiber)?
• Risikoanalyse: Welche Risiken haben die genutzten Systeme (Bias/Diskriminierung, Datenschutz, Vertraulichkeit, Urheberrecht, Geschäftsgeheimnisse, Übervertrauen in Ergebnisse)? Und welche Schutzmaßnahmen sind erforderlich, um die Risiken gering zu halten?

Bei den Schulungsinhalten ist der Kontext- und die Rolle der zu schulenden Mitarbeiter zu berücksichtigen. Wie viel Vorwissen hat wer im Unternehmen? Welche Teams brauchen vertiefte Schulungen (z.B. HR mit KI‑gestütztem Recruiting, Marketing mit generativer KI, IT/Compliance mit Blick auf Governance und Dokumentation)?

Wichtig zu wissen: Die Verordnung verlangt weder eine besondere Zertifizierung noch eine Prüfung der Mitarbeiter. Entscheidend ist, dass das Unternehmen eine Maßnahme zur Herstellung einer KI-Kompetenz vorgenommen hat. Die Schwerpunktsetzung bleibt dem jeweiligen Unternehmen überlassen. Es muss lediglich einen plausiblen Grund für die gewählte Schwerpunktsetzung im Rahmen seiner Qualifizierungsmaßnahme dokumentieren.