Der EU AI Act ist die weltweit erste umfassende gesetzliche Regelung für künstliche Intelligenz. Die Verordnung wurde im März 2024 vom Europäischen Parlament verabschiedet und ist seit August 2024 in Kraft. Sie gilt direkt in allen EU-Mitgliedstaaten – ohne dass einzelne Länder sie erst in nationales Recht umwandeln müssen.

Betroffen ist, wer KI-Systeme in der EU anbietet oder einsetzt. Das klingt erstmal einfach. Ist es aber nicht ganz. Denn die Verordnung gilt auch für Unternehmen außerhalb der EU – solange deren KI-Systeme in Europa genutzt werden. Ein US-amerikanisches Unternehmen, das einen KI-gestützten Bewerbungsfilter an deutsche Firmen verkauft? Fällt rein. Eine Agentur in München, die ein KI-Tool zur Bild­generierung für Kunden einsetzt? Auch.

Kurz gesagt: Wenn Ihre KI irgendjemanden in der EU betrifft, sind Sie dabei.

Nicht neu, aber diesmal verbindlich

Verhaltenskodizes und freiwillige Selbstverpflichtungen gab es in der KI-Branche schon länger. Der AI Act ist etwas anderes. Er ist Pflicht. Mit echten Bußgeldern. Und mit klaren Anforderungen, die sich danach richten, wie viel Schaden ein KI-System anrichten kann.

Das ist der Kern des Gesetzes: ein Risikomodell. Nicht jede KI wird gleich behandelt. Eine Playlist-Empfehlung bei Spotify trägt ein anderes Risikopotenzial als ein System, das über Kreditvergaben entscheidet oder Bewerbende automatisch aussortiert. Der AI Act zieht hier klare Grenzen – von „verboten" bis „kaum reguliert".

Was bedeutet das konkret für Unternehmen?

Wer KI nur passiv nutzt – zum Beispiel ChatGPT für interne Textzusammenfassungen – hat vergleichsweise wenig zu tun. Wer aber KI-Systeme entwickelt, vertreibt oder in sensiblen Bereichen einsetzt, muss handeln. Dokumentationspflichten, Transparenzanforderungen, in manchen Fällen sogar eine Art TÜV-Prüfung vor dem Marktzugang.

Die Übergangsfristen laufen gestaffelt. Manches gilt bereits seit Februar 2025, anderes erst ab 2026 oder 2027. Wer jetzt noch gar nichts getan hat, sollte das ändern.

¹ EUR-Lex - VERORDNUNG (EU) 2024/1689 DES EUROPÄISCHEN PARLAMENTS UND DES RATES

² Bundesnetzagentur - KI-Service Desk

Der AI Act teilt KI-Systeme in vier Risikostufen ein. Die Idee dahinter: Nicht jede KI braucht dieselben Auflagen. Was zählt, ist das Schadenspotenzial – für einzelne Menschen, für Gruppen, für die Gesellschaft. Je höher das Risiko, desto strenger die Regeln.

Das klingt logisch. Und ist es auch. Aber die Einordnung ist in der Praxis nicht immer einfach.

Stufe 1: Unannehmbares Risiko – verboten

Manche KI-Anwendungen sind schlicht nicht erlaubt. Punkt. Dazu gehören Systeme, die Menschen unbewusst manipulieren, soziale Bewertungssysteme wie Chinas Social Scoring, oder biometrische Echtzeit-Überwachung im öffentlichen Raum – mit sehr engen Ausnahmen für Strafverfolgungsbehörden.

Ein Beispiel: Ein System, das Kaufentscheidungen durch unterschwellige Reize beeinflusst, ohne dass Nutzer es merken. Verboten.

Stufe 2: Hochrisiko – erlaubt, aber stark reguliert

Hier wird es für viele Unternehmen relevant. Hochrisiko-KI ist nicht verboten – aber sie kommt mit einer langen Liste an Pflichten. Technische Dokumentation, menschliche Aufsicht, Registrierungspflichten, in vielen Fällen eine Konformitätsbewertung vor dem Marktzugang.

Betroffen sind unter anderem KI-Systeme in der Personalauswahl, im Bildungsbereich, in der Kreditvergabe, im Gesundheitswesen oder in der kritischen Infrastruktur. Also Bereiche, in denen eine fehlerhafte KI-Entscheidung das Leben von Menschen direkt beeinflussen kann.

Stufe 3: Begrenztes Risiko – Transparenz genügt

Chatbots, KI-generierte Texte, KI-generierte Avatare: Hier reicht es in der Regel, wenn Nutzer wissen, dass sie es mit einer KI zu tun haben. Keine großen Dokumentationspflichten, keine Vorabprüfung. Aber die Offenlegungspflicht gilt. Wer einen Chatbot betreibt, muss kenntlich machen, dass dort kein Mensch antwortet.

Stufe 4: Minimales Risiko – kaum Auflagen

Der Großteil aller KI-Anwendungen fällt hier rein. Spam-Filter, Playlist-Empfehlungen, KI-gestützte Bildbearbeitung. Für diese Systeme gibt es keine verpflichtenden Anforderungen aus dem AI Act. Freiwillige Verhaltenskodizes sind möglich, aber nicht Pflicht.

Die Grauzone

Was auf dem Papier klar klingt, ist in der Praxis manchmal schwieriger. Ein KI-Tool, das HR-Abteilungen bei der Vorauswahl von Bewerbungen „unterstützt" – ist das Hochrisiko oder nicht? Es kommt darauf an, wie es eingesetzt wird, wie viel Gewicht die Entscheidung hat, und ob ein Mensch die finale Entscheidung trifft.

Genau diese Graubereiche werden in den nächsten Jahren durch Leitlinien der EU-Kommission und erste Gerichtsentscheidungen klarer werden. Bis dahin gilt: Im Zweifel lieber eine Stufe höher einordnen und entsprechend dokumentieren.

³ IHK Region Stuttgart - AI-Act: Die wichtigsten Fragen zur KI-Verordnung

Verbotene KI-Praktiken im Sinne des AI Act sind Anwendungen, die ein so hohes Schadenspotenzial haben, dass keine Regulierung sie akzeptabel machen kann. Hier zieht die EU eine harte Linie: Diese Systeme dürfen in der EU weder entwickelt, vertrieben noch eingesetzt werden. Seit Februar 2025 ist das geltendes Recht.

Keine Übergangsfrist. Kein „wir schauen mal". Ab sofort verboten.

Die verbotenen Praktiken im Überblick:

Unterschwellige Manipulation: KI, die Verhalten beeinflusst, ohne dass Menschen es bemerken – durch Reize unterhalb der Wahrnehmungsschwelle. Anders als normale Werbung umgeht das das bewusste Denken komplett.

Ausnutzung von Schwächen: Systeme, die gezielt Verletzlichkeiten bestimmter Gruppen ausnutzen – Kinder, ältere Menschen, Menschen mit Behinderungen – um Verhalten zu steuern oder Schaden zu verursachen.

Social Scoring durch staatliche Stellen: Staatliche Bewertungssysteme, die Menschen anhand ihres sozialen Verhaltens klassifizieren und daraus Vor- oder Nachteile ableiten. Das Verbot gilt für staatliche Stellen – privates Scoring in der Kreditvergabe fällt unter Hochrisiko.

Biometrische Echtzeit-Identifikation im öffentlichen Raum: Gesichtserkennung in Echtzeit auf öffentlichen Plätzen ist grundsätzlich verboten. Enge Ausnahmen gibt es für Strafverfolgungsbehörden – etwa bei der Suche nach Vermissten oder bei unmittelbaren Terrorbedrohungen.

Biometrische Kategorisierung nach sensiblen Merkmalen: KI, die Menschen anhand biometrischer Daten nach politischer Überzeugung, Religion, Rasse oder sexueller Orientierung einteilt. Gilt unabhängig davon, wer das System betreibt.

Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Systeme, die Emotionen von Mitarbeitenden oder Schülerinnen und Schülern erkennen und auswerten. Ausnahme: medizinische oder sicherheitsrelevante Zwecke unter klar definierten Bedingungen.

Predictive Policing auf Basis persönlicher Merkmale: KI, die Personen als kriminell einstuft – allein aufgrund von Persönlichkeitsmerkmalen oder sozialen Verhältnissen ohne konkreten Anlass.

Was bedeutet das für die Praxis?

Für die meisten Unternehmen und Agenturen sind diese Verbote kein direktes Problem. Aber wer KI-Tools von Drittanbietern einsetzt, sollte prüfen, ob diese verbotene Funktionen enthalten oder ermöglichen. Die Verantwortung liegt nicht nur beim Hersteller.

⁴ ai-act-law.eu- Verbotene Praktiken im KI-Bereich

Hochrisiko-KI bezeichnet KI-Systeme, die in Bereichen eingesetzt werden, wo fehlerhafte Entscheidungen erhebliche Folgen für Menschen haben können – gesundheitlich, finanziell oder gesellschaftlich. Diese Systeme sind nicht verboten, unterliegen aber strengen Auflagen, bevor sie in der EU auf den Markt kommen oder eingesetzt werden dürfen.

Wer ist betroffen?

Der AI Act listet konkrete Bereiche auf, in denen KI automatisch als Hochrisiko gilt:

• Kritische Infrastruktur: Strom-, Wasser- und Verkehrsnetze
• Bildung: Systeme zur Bewertung von Lernenden oder Zulassung zu Bildungseinrichtungen
• Beschäftigung: KI in der Personalauswahl, Leistungsbewertung oder Kündigung
• Wesentliche Dienstleistungen: Kreditscoring, Versicherungen, Sozialhilfe
• Strafverfolgung: Risikoeinschätzung von Personen, Lügendetektoren, Beweisauswertung
• Migration & Asyl: Risikoklassifizierung, Dokumentenprüfung
• Rechtspflege: KI-gestützte Entscheidungsunterstützung für Gerichte
• Medizinprodukte: KI als Sicherheitsbauteil in medizinischen Geräten

Wer also einen KI-gestützten Bewerbungsfilter entwickelt oder eine Software zur Kreditentscheidung vertreibt, ist mittendrin.

Was sind die Pflichten?

Hier wird es konkret. Wer Hochrisiko-KI anbietet oder betreibt, muss eine Reihe von Anforderungen erfüllen:

Technische Dokumentation: Das System muss vollständig dokumentiert sein – Zweck, Funktionsweise, Trainingsdaten, bekannte Einschränkungen. Diese Dokumentation muss aktuell gehalten werden.

Risikomanagementsystem: Ein kontinuierlicher Prozess, der Risiken des Systems identifiziert, bewertet und minimiert. Kein einmaliges Abhaken, sondern laufende Aufgabe.

Datenverwaltung: Trainingsdaten müssen auf Qualität, Repräsentativität und mögliche Verzerrungen geprüft werden. Ein System, das auf einseitigen Daten trainiert wurde, kann strukturell diskriminieren.

Menschliche Aufsicht: Hochrisiko-KI darf nicht vollständig autonom entscheiden. Menschen müssen in der Lage sein, Entscheidungen zu verstehen, zu überwachen und einzugreifen.

Transparenz gegenüber Betreibern: Anbieter müssen sicherstellen, dass Betreiber das System verstehen und korrekt einsetzen können – inklusive Gebrauchsanweisung und Risikohinweisen.

Konformitätsbewertung: Vor dem Marktzugang muss nachgewiesen werden, dass das System die Anforderungen des AI Act erfüllt. Je nach Bereich erfolgt das durch Selbstbewertung oder durch eine unabhängige Prüfstelle.

CE-Kennzeichnung: Wer Hochrisiko-KI in der EU vermarktet, muss das System mit dem CE-Zeichen kennzeichnen – vergleichbar mit anderen regulierten Produkten wie Medizingeräten oder Elektrogeräten. Das CE-Zeichen signalisiert: Dieses System wurde bewertet und erfüllt die gesetzlichen Anforderungen.

Registrierung in der EU-Datenbank: Hochrisiko-KI-Systeme müssen in einer öffentlichen EU-Datenbank registriert werden, bevor sie auf den Markt kommen.

Anbieter oder Betreiber – wer muss was tun?

Nicht alle Pflichten treffen jeden gleich. Wer ein Hochrisiko-System entwickelt und verkauft, trägt andere Verantwortung als ein Unternehmen, das es nur einsetzt. Diese Unterscheidung – Anbieter versus Betreiber – ist im AI Act zentral und hat in der Praxis große Auswirkungen. Dazu später mehr.

KI-Systeme mit begrenztem Risiko sind Anwendungen, die zwar mit Menschen interagieren oder Inhalte erzeugen, aber kein erhebliches Schadenspotenzial haben. Für diese Systeme schreibt der AI Act keine aufwendigen Prüfverfahren vor. Was er verlangt, ist Transparenz: Nutzer müssen wissen, womit sie es zu tun haben.

Und genau hier wird es für Web- und App-Entwickler konkret.

Welche Systeme fallen darunter?

Die drei wichtigsten Kategorien in der Praxis:

Chatbots und virtuelle Assistenten: Jedes System, das in Echtzeit mit Menschen kommuniziert und dabei nicht klar als Mensch erkennbar ist. Kundenservice-Bots, FAQ-Assistenten, Support-Chats – alles dabei.

KI-generierte Inhalte: Texte, Bilder, Audio oder Video, die von einer KI erzeugt wurden. Dazu gehören auch KI-Sprecher oder KI-generierte Avatare in Videos – etwa ein Erklärkanal auf YouTube, bei dem kein echter Mensch vor der Kamera steht, sondern ein KI-generierter Avatar einen Text vorliest. Legitimes Format, aber kennzeichnungspflichtig.

Emotionserkennungssysteme und biometrische Kategorisierung außerhalb verbotener Kontexte – also etwa Systeme, die Nutzerverhalten analysieren, um Inhalte anzupassen.

Was muss konkret getan werden?

Die Pflicht ist überschaubar, aber verbindlich: Nutzer müssen erkennen können, dass sie mit einer KI interagieren oder KI-generierte Inhalte konsumieren.

Für Chatbots bedeutet das: Beim Start der Konversation muss klar sein, dass kein Mensch antwortet. Ein kleines Label reicht – aber es muss da sein, bevor das Gespräch beginnt.

Für KI-generierte Inhalte gilt: Die KI-Herkunft muss offengelegt werden. Bei einem YouTube-Video mit KI-generiertem Avatar gehört ein Hinweis dazu – im Video selbst, in der Beschreibung oder als Einblendung. Wie genau, das legt der AI Act nicht bis ins letzte Detail fest. Aber das „ob" ist keine Frage mehr.

Was passiert ohne Kennzeichnung?

Wer die Transparenzpflichten ignoriert, bewegt sich im Bereich der Ordnungswidrigkeiten. Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes sind möglich – je nachdem, was höher ist. Für eine Agentur, die einen nicht gekennzeichneten Kundenservice-Bot ausliefert, ist das kein theoretisches Risiko.

Und abgesehen vom Bußgeld: Vertrauen ist schwerer zurückzugewinnen als zu bewahren.

GPAI steht für General Purpose AI – KI-Modelle, die nicht für einen einzigen Zweck gebaut wurden, sondern für viele. ChatGPT, Gemini, Claude, Copilot – das sind GPAI-Modelle. Sie schreiben Texte, beantworten Fragen, analysieren Daten, generieren Bilder. Für Unternehmen, die diese Tools im Alltag nutzen, stellt sich eine berechtigte Frage: Was hat der AI Act mit mir zu tun, wenn ich doch nur Nutzer bin?

Mehr als viele denken.

Die Verantwortung bleibt nicht allein beim Anbieter

OpenAI, Google, Anthropic – die Hersteller dieser Modelle tragen die großen Pflichten. Dokumentation, Urheberrechtskonformität, Transparenz. Das ist deren Aufgabe.

Aber wer ein GPAI-Modell im eigenen Unternehmen einsetzt, übernimmt damit eine eigene Rolle im Sinne des AI Act: die des Betreibers. Und Betreiber haben eigene Pflichten – unabhängig davon, wer das Modell gebaut hat.

Was bedeutet das konkret?

Drei Alltagsszenarien, die viele Unternehmen kennen:

KI im Kundenservice: Sie setzen einen ChatGPT-basierten Bot ein, der Kundenanfragen beantwortet. Das Modell kommt von OpenAI – aber der Bot gehört Ihnen. Kennzeichnungspflicht, Transparenz gegenüber Nutzern, korrekte Einbindung: Ihre Aufgabe.

KI-generierte Marketingtexte: Texte, die mit KI erstellt und veröffentlicht werden, müssen als solche erkennbar sein – je nach Kontext und Plattform. Wer das ignoriert, trägt das Risiko.

KI für interne Prozesse: HR-Auswertungen, automatisierte Berichte, Entscheidungsunterstützung – sobald KI in sensiblen internen Bereichen eingesetzt wird, greift der AI Act auch hier. Nicht weil das Tool verboten wäre, sondern weil der Einsatz dokumentiert und verantwortungsvoll gestaltet sein muss.

Was Nutzer von den Anbietern erwarten dürfen

Der AI Act verpflichtet GPAI-Anbieter dazu, ihren Nutzern ausreichend Informationen bereitzustellen. Wer also ChatGPT oder Gemini einsetzt, hat ein Recht darauf zu wissen, wie das Modell funktioniert, welche Einschränkungen es hat und wie es trainiert wurde – zumindest in dem Maß, das nötig ist, um eigene Pflichten erfüllen zu können.

Das ist keine Kleinigkeit. Es bedeutet, dass Anbieter nicht einfach eine Blackbox liefern und sich aus der Verantwortung ziehen können.

Der AI Act unterscheidet zwei zentrale Rollen: Anbieter und Betreiber. Anbieter – im englischen Original „Provider" – sind diejenigen, die ein KI-System entwickeln und in Verkehr bringen. Betreiber – „Deployer" – sind diejenigen, die ein fertiges KI-System in ihrem eigenen Kontext einsetzen. Diese Unterscheidung klingt einfach, hat aber in der Praxis erhebliche Konsequenzen. Denn je nach Rolle treffen Sie völlig andere Pflichten.

Was muss der Anbieter leisten?

Der Anbieter trägt die Hauptverantwortung für das System selbst. Er muss sicherstellen, dass das System die Anforderungen des AI Act erfüllt – bevor es auf den Markt kommt. Das bedeutet:

Technische Dokumentation erstellen und aktuell halten. Konformitätsbewertung durchführen. CE-Kennzeichnung anbringen. Das System in der EU-Datenbank registrieren. Und dem Betreiber alle Informationen liefern, die dieser braucht, um das System korrekt einzusetzen.

Kurz gesagt: Der Anbieter baut das Auto und stellt sicher, dass es den Sicherheitsstandards entspricht.

Was muss der Betreiber leisten?

Der Betreiber setzt das System ein – und übernimmt damit eigene Verantwortung. Er muss das System so nutzen, wie es vom Anbieter vorgesehen ist. Eigenmächtige Zweckänderungen sind problematisch. Wer einen Chatbot kauft, der für Kundenservice zugelassen ist, und ihn dann für automatisierte Personalentscheidungen einsetzt, verlässt den sicheren Bereich.

Weitere Pflichten des Betreibers: menschliche Aufsicht sicherstellen, Mitarbeitende schulen, Vorfälle dokumentieren und – besonders relevant – beim Einsatz sensibler Daten von Kunden oder Partnern die Datenschutzanforderungen einhalten. Der AI Act und die DSGVO greifen hier ineinander.

Was, wenn jemand beide Rollen hat?

Das kommt häufiger vor als man denkt. Eine Agentur, die ein KI-Tool entwickelt und es gleichzeitig für eigene Kundenprojekte einsetzt, ist Anbieter und Betreiber in einem. In diesem Fall gelten beide Pflichtenkataloge. Kein gegenseitiges Aufrechnen, keine Vereinfachung.

Praxisbeispiel: Agentur entwickelt KI-Tool für Kunden

Eine Digitalagentur entwickelt einen KI-gestützten Chatbot und liefert ihn an einen Kunden aus. Die Agentur ist Anbieter – sie trägt die Verantwortung für Dokumentation, Konformität und korrekte Übergabe. Der Kunde, der den Bot auf seiner Website einsetzt, ist Betreiber – er trägt die Verantwortung für den korrekten Einsatz, die Kennzeichnung gegenüber Nutzern und die Einhaltung der Datenschutzanforderungen.

Was, wenn der Kunde den Bot zweckentfremdet? Dann wird er selbst zum Anbieter einer neuen Variante – mit allen Pflichten, die dazugehören. Die Agentur haftet in diesem Fall nicht automatisch mit. Aber sie sollte das vertraglich absichern.

KI-Governance bezeichnet alle internen Strukturen, Prozesse und Verantwortlichkeiten, die ein Unternehmen braucht, um KI-Systeme regelkonform und verantwortungsvoll einzusetzen. Es geht nicht um ein einzelnes Dokument oder eine einmalige Prüfung. Es geht um einen dauerhaften Rahmen – der festlegt, wer was entscheidet, wie KI eingesetzt wird und was passiert, wenn etwas schiefläuft.

Klingt nach großem Aufwand. Für viele Unternehmen ist es das zunächst auch. Aber wer früh anfängt, hat später deutlich weniger Arbeit.

Wer ist intern zuständig?

Die erste Frage, die jedes Unternehmen beantworten muss: Wer trägt die Verantwortung für KI? In größeren Unternehmen entsteht gerade die Rolle des AI Officers – eine Person oder Stelle, die den Überblick behält, Entscheidungen koordiniert und als Ansprechpartner für Behörden fungiert.

In kleineren Unternehmen und Agenturen muss das nicht zwingend eine eigene Stelle sein. Aber es muss klar sein, wer die Verantwortung trägt. Unklare Zuständigkeiten sind im Zweifel das größte Risiko.

Umgang mit sensiblen Daten

Hier treffen AI Act und DSGVO aufeinander. Wer KI-Systeme mit Kundendaten, Partnerdaten oder Mitarbeiterdaten füttert, bewegt sich in einem Bereich, der beide Regelwerke berührt.

Konkret bedeutet das: Bevor sensible Daten in ein KI-System fließen, braucht es eine klare Antwort auf drei Fragen. Ist die Nutzung dieser Daten für diesen Zweck erlaubt? Weiß die betroffene Person davon? Und was passiert mit den Daten nach der Verarbeitung?

Wer ChatGPT oder ähnliche Tools mit echten Kundendaten nutzt, sollte außerdem prüfen, ob der jeweilige Anbieter eine DSGVO-konforme Datenverarbeitung garantiert – und das vertraglich gesichert ist. Viele tun das nicht standardmäßig.

Was muss dokumentiert werden?

Dokumentation ist im AI Act kein Selbstzweck. Sie ist der Nachweis, dass ein Unternehmen seiner Sorgfaltspflicht nachgekommen ist. Intern sollte festgehalten werden: Welche KI-Systeme werden eingesetzt? Für welchen Zweck? Wer hat den Einsatz freigegeben? Welche Risiken wurden bewertet?

Das muss kein hundertseitiges Handbuch sein. Aber es muss existieren – und aktuell gehalten werden.

Mitarbeiterschulung – keine optionale Aufgabe

Der AI Act schreibt für Betreiber von Hochrisiko-KI explizit vor, dass Mitarbeitende geschult sein müssen. Aber auch abseits dieser Pflicht gilt: Wer KI-Tools einsetzt, ohne dass die Belegschaft versteht, wie sie funktionieren und wo die Grenzen liegen, produziert Fehler und Risiken.

Eine Schulung muss dabei nicht aufwendig sein. Es geht darum, dass Mitarbeitende wissen, welche Tools sie nutzen dürfen, welche Daten sie eingeben dürfen und wann ein Mensch die Entscheidung übernehmen muss.

Was kann heute sofort getan werden?

Drei Schritte, die kein Unternehmen aufschieben sollte:

Bestandsaufnahme: Welche KI-Systeme sind im Einsatz? Gekaufte Tools, selbst entwickelte Lösungen, auch inoffizielle Nutzung durch Mitarbeitende. Erst wenn das klar ist, kann bewertet werden.

Risikoeinstufung: Für jedes System prüfen, in welche Kategorie es fällt. Hochrisiko? Begrenztes Risiko? Daraus ergeben sich die konkreten Pflichten.

Zuständigkeit klären: Eine Person oder Stelle benennen, die das Thema KI-Compliance verantwortet. Ab diesem Punkt läuft alles andere strukturierter.

Der AI Act ist nicht an einem einzigen Datum in Kraft getreten. Die Verordnung wurde gestaffelt eingeführt – mit unterschiedlichen Fristen für unterschiedliche Bereiche. Das gibt Unternehmen Zeit zur Vorbereitung. Aber diese Zeit läuft.

Die wichtigsten Daten im Überblick

2. August 2024 – AI Act tritt offiziell in Kraft. Noch keine konkreten Pflichten.

2. Februar 2025 – Verbotene KI-Praktiken gelten. KI-Kompetenzpflicht (Art. 4) greift. Keine Übergangsfrist.

2. August 2025 – GPAI-Regeln sind verbindlich. Governance-Strukturen und Sanktionsrahmen treten in Kraft.

2. August 2026 – Großteil der Regelungen wird anwendbar: Hochrisiko-KI nach Anhang III (Personalauswahl, Kreditvergabe etc.) sowie Transparenzpflichten für begrenztes Risiko – also Kennzeichnung von Chatbots und KI-generierten Inhalten.

2. Dezember 2027 – Hochrisiko-KI in Bereichen wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Migration.

2. August 2028 – Letzte Frist: KI-Systeme, die in regulierte Produkte eingebettet sind – etwa Medizinprodukte oder Industrieanlagen. Frist verlängert durch den KI-Omnibus vom Mai 2026.

Was bedeutet das für die Praxis?

Wer Hochrisiko-KI entwickelt oder einsetzt, hat bis August 2026 Zeit – aber nicht mehr viel davon. Konformitätsbewertungen, technische Dokumentationen und interne Governance-Strukturen brauchen Zeit zum Aufbau. Wer jetzt noch nicht angefangen hat, wird es eng haben.

Wer „nur" KI-Tools im Alltag nutzt, hat weniger Druck – aber auch keine Entschuldigung mehr. Die Transparenzpflichten und Verbote gelten bereits. Die KI-Kompetenzpflicht im Unternehmen ist seit Februar 2025 Pflicht.

Ein ehrlicher Hinweis

Wer heute noch gar nichts unternommen hat, ist nicht allein. Viele Unternehmen haben das Thema aufgeschoben. Aber der Aufschub wird teurer, je länger er dauert. Nicht nur wegen möglicher Bußgelder – sondern weil interne Strukturen, Dokumentationen und Schulungen Zeit brauchen, die sich nicht in letzter Minute herbeizaubern lässt.

Compliant zu sein bedeutet nicht, jeden Paragraphen des AI Act auswendig zu kennen. Es bedeutet, den eigenen KI-Einsatz zu kennen, zu bewerten und verantwortungsvoll zu gestalten. Was das konkret heißt, hängt stark davon ab, was ein Unternehmen mit KI macht – und in welcher Rolle es dabei auftritt.

Eine Agentur, die KI-Tools intern nutzt und gelegentlich Chatbots für Kunden entwickelt, hat andere Pflichten als ein Unternehmen, das KI-Systeme für die Kreditvergabe oder Personalauswahl baut. Der Umfang variiert erheblich.

Beispielhafte Checkliste für eine Web- und App-Agentur

Bestandsaufnahme:

• Welche KI-Tools werden intern eingesetzt? (ChatGPT, Copilot, Bildgenerierung etc.)
• Werden KI-Features in Kundenprojekte eingebaut? Wenn ja, welche?
• Gibt es inoffizielle Tool-Nutzung durch Mitarbeitende, die bisher nicht erfasst ist?

Risikoeinstufung:

• Fallen eingesetzte oder entwickelte Systeme unter begrenztes Risiko oder Hochrisiko?
• Werden sensible Daten – von Kunden, Partnern oder Mitarbeitenden – in KI-Systeme eingegeben?
• Werden KI-Systeme für Entscheidungen eingesetzt, die Menschen direkt betreffen?

Transparenzpflichten:

• Sind Chatbots in Kundenprojekten als KI gekennzeichnet?
• Werden KI-generierte Inhalte – Texte, Bilder, Videos – entsprechend ausgewiesen?
• Wissen Endnutzer, wenn sie mit einem KI-System interagieren?

Verträge & Verantwortlichkeiten:

• Ist in Kundenverträgen geregelt, wer für den korrekten Einsatz von KI-Features verantwortlich ist?
• Sind die genutzten KI-Dienste DSGVO-konform eingebunden?
• Gibt es klare Regelungen für den Fall, dass ein Kunde ein geliefertes KI-System zweckentfremdet?

Intern:

• Gibt es eine benannte Zuständigkeit für KI-Compliance?
• Wissen Mitarbeitende, welche Tools sie nutzen dürfen und welche Daten sie eingeben dürfen?
• Sind die internen Prozesse dokumentiert – welche KI wo und wofür eingesetzt wird?
• Werden neue KI-Tools vor dem Einsatz bewertet und freigegeben?

Was darüber hinaus gilt

Wer KI-Systeme nicht nur einsetzt, sondern entwickelt und vertreibt – oder in Hochrisiko-Bereichen wie Personalauswahl, Kreditvergabe oder Gesundheit tätig ist – hat einen deutlich umfangreicheren Pflichtenkatalog. Technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank kommen dann hinzu. Für diese Fälle lohnt sich eine individuelle rechtliche Beratung.

Und was passiert bei Verstößen?

Der AI Act hat Bußgelder vorgesehen – gestaffelt nach Schwere des Verstoßes. Die oft zitierten Maximalbeträge klingen dramatisch, sind aber für die meisten Unternehmen kein realistisches Szenario. Behörden werden erfahrungsgemäß erst mit Prüfungen und Auflagen arbeiten, bevor Geldbußen fließen. Wer kooperiert und nachbessert, steht deutlich besser da als wer ignoriert.

Anders sieht es aus, wer KI-Systeme in großem Maßstab entwickelt und vertreibt – oder in Hochrisiko-Bereichen tätig ist. Dort ist die Aufmerksamkeit der Behörden deutlich höher.

⁵ EU Artificial Intelligence Act - EU AI Act Compliance Checker

Wer KI nicht nur verstehen, sondern einsetzen möchte, steht schnell vor der Frage: Wo fangen wir an – und wie stellen wir sicher, dass das alles regelkonform läuft?

Wir entwickeln KI-Lösungen, die von Beginn an auf die Anforderungen des AI Act ausgelegt sind. Ob AI-Agents, RAG-Systeme oder die Anbindung an bestehende Systeme wie CRM oder ERP – wir begleiten den gesamten Prozess, von der ersten Idee bis zum laufenden Betrieb. Und weil wir seit über 20 Jahren Schnittstellen und APIs entwickeln, wissen wir, wie KI sicher und DSGVO-konform in echte Geschäftsprozesse integriert wird.

Wenn Sie ein KI-Projekt planen, sprechen Sie uns gern an.

Der AI Act ist kein Bürokratiemonster, das nur Großkonzerne betrifft. Er ist ein Regelwerk, das den KI-Einsatz für alle verbindlich gestaltet – vom Startup bis zur etablierten Agentur. Wer KI nutzt, entwickelt oder in Produkte einbaut, ist dabei. Die gute Nachricht: Die meisten Anforderungen sind handhabbar, wenn man früh anfängt. Bestandsaufnahme, Risikoeinstufung, klare Zuständigkeiten – das sind keine unrealistischen Forderungen.

Was sich nicht auszahlt, ist Abwarten. Die Fristen laufen, die Behörden werden aktiv und der Reputationsschaden bei einem öffentlichen Verstoß wiegt schwerer als jede Bußgeldzahlung. Wer jetzt die Grundlagen schafft, ist nicht nur compliant – er hat schlicht einen klareren Kopf, wenn KI im eigenen Unternehmen weiter wächst.

Gilt der AI Act auch für kleine Unternehmen?

Ja. Der AI Act macht keine Ausnahme für Unternehmensgröße – wer KI in der EU einsetzt oder anbietet, ist betroffen. Allerdings richten sich die Anforderungen nach dem tatsächlichen Einsatz: Wer KI nur minimal nutzt, hat deutlich weniger zu tun als jemand, der Hochrisiko-Systeme entwickelt.

Ich nutze nur ChatGPT intern – bin ich trotzdem betroffen?

Ja, aber überschaubar. Als Betreiber eines GPAI-Tools tragen Sie Verantwortung für den korrekten Einsatz – dazu gehören unter anderem die KI-Kompetenzpflicht für Mitarbeitende und der datenschutzkonforme Umgang mit Eingaben.

Was ist die KI-Kompetenzpflicht und gilt sie für mein Unternehmen?

Seit Februar 2025 schreibt Art. 4 AI Act vor, dass alle Unternehmen, die KI einsetzen oder entwickeln, sicherstellen müssen, dass ihre Mitarbeitenden ausreichend über KI informiert sind. Das bedeutet keine Zertifizierung, aber nachweisbare Grundkenntnisse im Umgang mit den genutzten Systemen.

Muss ich meinen Chatbot als KI kennzeichnen?

Ja. Wer einen Chatbot betreibt, muss für Nutzer klar erkennbar machen, dass sie mit einer KI und nicht mit einem Menschen kommunizieren – und zwar bevor die Konversation beginnt.

Was passiert, wenn ich als Agentur ein KI-System an einen Kunden ausliefere?

Sie sind als Anbieter verantwortlich für Dokumentation und korrekte Übergabe. Ihr Kunde übernimmt als Betreiber die Verantwortung für den Einsatz – das sollte vertraglich klar geregelt sein.

Gilt der AI Act auch für US-Unternehmen wie OpenAI oder Google?

Ja. Der AI Act gilt für alle Unternehmen, deren KI-Systeme in der EU genutzt werden – unabhängig davon, wo der Anbieter seinen Sitz hat. OpenAI, Google und Anthropic unterliegen damit ebenfalls den Pflichten des AI Act.

Wer kontrolliert in Deutschland die Einhaltung des AI Act?

Die Bundesnetzagentur ist als nationale Marktüberwachungsbehörde vorgesehen. Auf EU-Ebene übernimmt das AI Office die Aufsicht – insbesondere für GPAI-Modelle.

Was ist der Unterschied zwischen Anbieter und Betreiber im AI Act?

Anbieter entwickeln und vermarkten KI-Systeme, Betreiber setzen sie ein. Wer ein fertiges KI-Tool kauft und in seinem Unternehmen nutzt, ist Betreiber – mit eigenen Pflichten, unabhängig vom Hersteller des Tools.

Muss ich meine KI-Tools irgendwo registrieren?

Nur für Hochrisiko-KI-Systeme gibt es eine Registrierungspflicht in einer EU-Datenbank. Wer lediglich Tools wie ChatGPT oder einen einfachen Chatbot einsetzt, muss nichts registrieren – aber intern dokumentieren, welche Systeme im Einsatz sind.