Die meisten Unternehmen, die heute KI einsetzen, gehen davon aus, dass die Regulierung sie nicht betrifft — dass der EU AI Act das Problem großer Technologiekonzerne ist, die Modelle entwickeln. Diese Annahme ist falsch. Wenn Ihr Unternehmen ein KI-System betreibt, integriert oder weiterliefert, sind Sie nach der Verordnung eine einsetzende Partei (Deployer) mit eigenen gesetzlichen Pflichten. Verstöße können ein Bußgeld von bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro bedeuten — je nachdem, welcher Betrag höher ist.
Dieser Artikel ist keine Rechtsberatung, und die Auslegung einzelner Bestimmungen wird noch präzisiert. Er ist eine praxisnahe Orientierungskarte: wo Sie aus Sicht des EU AI Act stehen, was die meisten High-Risk-Deployments erfordern und was Sie prüfen sollten, bevor Sie ein Projekt in Produktion nehmen.
Wann was in Kraft trat
Der EU AI Act ist eine EU-Verordnung — er gilt direkt in allen Mitgliedstaaten, ohne nationale Umsetzung. Er trat im August 2024 in Kraft, die Pflichten werden jedoch schrittweise eingeführt:
- Februar 2025: Verbot von KI-Systemen mit unannehmbarem Risiko (manipulative Techniken, Social Scoring, Echtzeit-Biometrie auf öffentlichen Plätzen).
- August 2025: Pflichten für Anbieter von GPAI-Modellen (General-Purpose-AI-Modelle, d. h. große Sprachmodelle) sowie Veröffentlichung des Code of Practice. Ab diesem Termin gilt auch die Bußgeldregelung.
- August 2026: Inkrafttreten des Großteils der verbleibenden Bestimmungen — einschließlich der Pflichten für High-Risk-KI-Systeme. Dies ist der Termin, der die meisten B2B-Deployments betrifft.
Wenn Sie also heute KI in kritischer Infrastruktur, HR, Zugangskontrolle, Bildung oder Gesundheitswesen einsetzen, haben Sie bis August 2026 Zeit, sich vorzubereiten. Das ist nicht viel.
Vier Risikokategorien — wo Sie stehen
Der EU AI Act ordnet KI-Systeme nach Risikoklassen ein. Die Kategorie bestimmt, welche Pflichten gelten.
Inakzeptables Risiko — verbotene Anwendungen. Dazu gehören staatliches Social Scoring, manipulative Techniken mit unterschwelligen Reizen und Echtzeit-Biometrie an öffentlichen Orten. Für B2B-Industriedeployments ist diese Kategorie in der Regel irrelevant.
Hohes Risiko (High-Risk) — strengste Regulierung für erlaubte Systeme. Anhang III der Verordnung listet die Bereiche abschließend auf: biometrische Identifizierung, kritische Infrastruktur (Energie, Wasser, Verkehr), Bildung (Zulassung, Bewertung), Beschäftigung und HR (Rekrutierung, Leistungsbeurteilung, Kündigung), Zugang zu wesentlichen privaten und öffentlichen Diensten (Kreditscoring, Notrufe), Strafverfolgung, Migrationsverwaltung, Rechtspflege. Ein Chatbot im Kundendienst ist in der Regel kein High-Risk-System — ein Chatbot, der medizinische Anfragen triagiert oder über die Ablehnung eines Kreditantrags entscheidet, kann es sein.
Begrenztes Risiko — Transparenzpflichten. Systeme, die mit Menschen interagieren (Chatbots) oder Inhalte synthetisieren (Deepfakes, KI-generierter Text), müssen klar gekennzeichnet sein. Nutzer müssen wissen, dass sie mit einer KI kommunizieren, sofern dies nicht aus dem Kontext hervorgeht.
Minimales Risiko — keine besonderen Pflichten. Die große Mehrheit der B2B-KI-Anwendungen (Dokumentenverarbeitung, prädiktive Analytik, Empfehlungssysteme) fällt hierunter — sofern sie nicht die Kriterien höherer Kategorien erfüllt.
Praktische Abgrenzung: Wenn Ihr KI-System in Entscheidungen eingreift, die rechtliche oder vergleichbar schwerwiegende Auswirkungen auf natürliche Personen haben, oder wenn es in Bereichen aus Anhang III tätig ist, führen Sie eine Klassifizierung durch. Wenn Sie ausschließlich mit interner Datenanalyse ohne Auswirkungen auf natürliche Personen arbeiten, befinden Sie sich wahrscheinlich im minimalen Risiko.
Pflichten der einsetzenden Partei bei High-Risk-Systemen
Artikel 26 des EU AI Act definiert die Pflichten des Deployers — also des Unternehmens, das ein High-Risk-System betreibt, auch wenn es dieses nicht entwickelt hat. Die Kernpunkte:
Technische und organisatorische Maßnahmen. Sie müssen angemessene Maßnahmen einführen, um die ordnungsgemäße und bestimmungsgemäße Verwendung des Systems gemäß den Anweisungen des Anbieters sicherzustellen. Dazu gehören Konfiguration, Zugriffsrechte und Monitoring.
Menschliche Aufsicht (Human Oversight). Bei High-Risk-Systemen müssen Sie sicherstellen, dass die Ausgaben der KI von einer kompetenten Person geprüft und verifiziert werden, bevor eine Maßnahme mit Auswirkung auf eine natürliche Person getroffen wird. Es reicht nicht, dass das System eine „Override"-Schaltfläche hat — die prüfende Person muss über die erforderlichen Kompetenzen und die reale Möglichkeit verfügen, die Entscheidung zu ändern. In industriellen Umgebungen bedeutet das, verantwortliche Rollen zu definieren und das Verfahren zu dokumentieren.
Monitoring. Sie müssen das Verhalten des Systems in der Produktionsumgebung überwachen, Risiken und Anomalien identifizieren. Wenn Sie feststellen, dass das System anders als beabsichtigt funktioniert, sind Sie verpflichtet, den Anbieter zu informieren. Das ist ein starkes Argument dafür, dass Observability für KI-Agenten und Evals kein optionales, sondern ein compliance-pflichtiges Element ist.
Aufzeichnungen und Logs. Bei High-Risk-Systemen müssen Sie Betriebslogs in einem Umfang aufbewahren, der eine nachträgliche Prüfung ermöglicht. Die Aufbewahrungsfristen hängen vom Sektor ab. Wenn ein KI-System Entscheidungen im HR- oder Finanzbereich trifft, sind Logs Beweismaterial.
Benachrichtigung betroffener Personen. Natürliche Personen, die von einer Entscheidung eines High-Risk-KI-Systems betroffen sind, haben das Recht zu wissen, dass KI eingesetzt wurde. In der Praxis bedeutet das eine entsprechende Kommunikation in den Prozessen (z. B. ein Hinweis in der Ablehnungsmitteilung oder in einer HR-Entscheidung).
Data Governance. Trainings- und Validierungsdatensätze für High-Risk-Systeme müssen die Anforderungen an Relevanz, Repräsentativität und Abwesenheit diskriminierender Muster erfüllen. Wenn Sie das System liefern, ist das eine Anbieterpflicht. Wenn Sie es einsetzen, müssen Sie prüfen, dass der Anbieter diese Dokumentation vorliegen hat.
Risk Management — was das in der Praxis bedeutet
Der EU AI Act verlangt für High-Risk-Systeme kontinuierliches Risk Management über den gesamten Lebenszyklus, keine einmalige Beurteilung bei der Inbetriebnahme. In der Praxis bedeutet das:
- Vor der Inbetriebnahme: Dokumentierte Risikoanalyse — welche Schäden kann das System verursachen, wie hoch ist die Wahrscheinlichkeit, welche Mitigationen gibt es. Kein hastig zusammengestelltes Dokument, sondern ein lebendiges Artefakt, das bei jeder wesentlichen Änderung am System aktualisiert wird.
- Während des Betriebs: Regelmäßige Überprüfung — hat sich der Use-Case geändert? Hat sich das Modell geändert? Haben sich die Eingabedaten geändert? Jede dieser Änderungen kann das Risikoprofil verändern.
- Nach einem Vorfall: Dokumentiertes Reaktionsverfahren, Meldung an die Aufsichtsbehörde, wenn der Vorfall schwerwiegende Auswirkungen hatte.
Methodisch ist das Risk Management nach dem EU AI Act dem ähnlich, was Unternehmen bei ISO 27001 oder GDPR-DSFA machen — es ist kein neues Konzept, nur eine neue Anwendung im KI-Bereich. Wenn Sie ein bestehendes ISMS-Framework haben, erweitern Sie es um KI-spezifische Kontrollen, anstatt eine Parallelstruktur aufzubauen.
Dokumentation — was bereitliegen muss
Das ist der Bereich, in dem die meisten Unternehmen am stärksten hinterherhinken. Der EU AI Act setzt voraus, dass High-Risk-Systeme über verfügbare technische Dokumentation verfügen — nicht für Prüfer, sondern als lebendiges Steuerungsinstrument. Mindestens:
- Systembeschreibung und beabsichtigter Zweck — was das System tut, für welche Entscheidungen es eingesetzt wird, wer die betroffenen Personen sind.
- Architektur und Datenflüsse — wo Daten eingehen, wo sie verarbeitet werden, wo Ausgaben gespeichert werden.
- Trainings- und Validierungsdatensätze (wenn Sie Anbieter sind) — Herkunft, Umfang, Qualitätsmaßnahmen, Abwesenheit von Bias.
- Ergebnisse von Tests und Validierungen — einschließlich Edge Cases und Fehlern. Das steht in direktem Zusammenhang damit, wie Sie die Qualität einer LLM-Applikation messen.
- Human-Oversight-Verfahren — wer, wie und wann die KI-Ausgaben überprüft.
- Risikoregister — identifizierte Risiken, Mitigationen, Verantwortlichkeiten.
- Vorfallsverfahren — Eskalation, Meldung, Korrekturmaßnahmen.
Die Aufzeichnungen müssen so lange aufbewahrt werden, wie es dem regulatorischen Kontext des Systems entspricht — in Finanzdienstleistungen und im Gesundheitswesen typischerweise mehrere Jahre.
Schnittstellen mit der DSGVO
EU AI Act und DSGVO ergänzen sich gegenseitig — der AI Act hebt die DSGVO nicht auf und ersetzt sie nicht. Wenn Ihr KI-System personenbezogene Daten verarbeitet (was bei den meisten Business-Applikationen der Fall ist), gelten beide Regelwerke gleichzeitig.
Die wichtigsten Schnittstellen:
Rechtsgrundlage der Verarbeitung. Auch wenn der AI Act eine bestimmte Verarbeitung erlaubt, benötigen Sie weiterhin eine DSGVO-Rechtsgrundlage — Einwilligung, berechtigtes Interesse, Vertrag. KI im HR-Bereich ohne explizite Rechtsgrundlage einzusetzen, ist ein DSGVO-Verstoß, nicht nur ein AI-Act-Verstoß.
DSFA (Datenschutz-Folgenabschätzung). Wenn ein High-Risk-KI-System personenbezogene Daten verarbeitet, löst das sehr wahrscheinlich die DSFA-Pflicht nach Artikel 35 DSGVO aus. In der Praxis empfiehlt es sich, DSFA und AI-Act-Risikobewertung parallel durchzuführen — sie teilen einen großen Teil der Grundlagen.
Rechte betroffener Personen. Die DSGVO gewährleistet das Recht auf Erläuterung automatisierter Entscheidungen. Der AI Act ergänzt, dass betroffene Personen über den KI-Einsatz informiert werden müssen. Die Kombination: Prozesse müssen in der Lage sein, eine menschlich verständliche Erklärung zu liefern, warum die KI so entschieden hat. Das wirkt sich direkt darauf aus, welche Eval-Prozesse Sie aufbauen und wie Sie Entscheidungen protokollieren.
Daten für das Training. Wenn Sie ein Modell mit eigenen Unternehmensdaten fine-tunen, die personenbezogene Daten enthalten, benötigen Sie dafür eine Rechtsgrundlage. Das ist ein Bereich, in dem DSGVO und LLM über Unternehmensdaten weitere Anforderungen stellt. Anonymisierung vor dem Training ist die Lösung, muss aber echte Anonymisierung sein — Pseudonymisierung im Sinne der DSGVO reicht nicht.
Transparenzpflichten für Systeme mit begrenztem Risiko
Auch wenn Ihr System kein High-Risk-System ist, können Transparenzpflichten gelten. Relevant für die meisten B2B-Unternehmen, die Chatbots oder generative KI einsetzen:
- Jedes System, das mit Menschen per Text oder Sprache interagiert und mit einem menschlichen System verwechselt werden könnte, muss als KI gekennzeichnet sein — sofern das nicht aus dem Kontext hervorgeht.
- Systeme, die synthetische Inhalte für die Öffentlichkeit generieren (Texte, Bilder, Audio, Video), müssen maschinell erkennbar gekennzeichnet sein (Wasserzeichen oder Metadaten).
- Eine Ausnahme gilt für Systeme, bei denen der KI-Charakter aus dem Kontext offensichtlich ist (z. B. wenn der Nutzer selbst einen KI-Generator gestartet hat).
In der Praxis: Wenn Sie einen KI-Assistenten im Kundendienst einsetzen, muss in der Erstkommunikation klar sein, dass es sich um eine KI handelt. Wenn Sie Marketinginhalte mit KI generieren, überlegen Sie, wie Sie diese Kennzeichnung integrieren.
Was jetzt zu tun ist — priorisierte Checkliste
August 2026 ist weniger als ein Jahr entfernt. Für Unternehmen mit komplexeren Systemen ist das nicht viel Zeit. Empfohlenes Vorgehen:
- 1.Portfolio-Klassifizierung — gehen Sie alle KI-Systeme durch und bewerten Sie, in welche Kategorie sie fallen. Bei Zweifeln ziehen Sie einen Anwalt mit Schwerpunkt Technologierecht hinzu.
- 2.High-Risk-Systeme priorisieren — starten Sie für jedes High-Risk-System eine Risikobewertung und einen Dokumentationsinventar. Identifizieren Sie Lücken.
- 3.Human-Oversight-Audit — sind Ihre Prozesse zu echter menschlicher Aufsicht in der Lage, oder ist das nur eine Formalität? Definieren Sie verantwortliche Rollen, Kompetenzen, Eskalationswege.
- 4.Logging und Monitoring — stellen Sie sicher, dass Sie Logs auf einem Niveau haben, das eine nachträgliche Prüfung ermöglicht. Wenn Sie KI-Agenten einsetzen, ist das besonders kritisch.
- 5.DSGVO × AI Act parallel — wenn Sie noch keine DSFA für KI-Systeme haben, die personenbezogene Daten verarbeiten, holen Sie diese nach.
- 6.Lieferkette — wenn Sie ein KI-System von einem externen Anbieter kaufen, fordern Sie die technische Dokumentation gemäß AI Act an. Fehlende Dokumentation ist ein Warnsignal.
- 7.Interne Schulung — Personen, die für die menschliche Aufsicht verantwortlich sind, müssen die Grenzen der Systeme verstehen, die sie überprüfen. „Ich genehmige, weil die KI es empfohlen hat" ist keine menschliche Aufsicht.
Häufige Fragen
Gilt der EU AI Act auch für kleine Unternehmen?
Ja. Die Verordnung enthält keine Ausnahme für kleine und mittlere Unternehmen bei der High-Risk-Kategorie. Es gibt nur geringfügige Erleichterungen für Kleinunternehmen im Bereich der technischen Dokumentation — die grundlegenden Pflichten (Human Oversight, Risk Management, Aufzeichnungen) gelten jedoch gleichermaßen. Wenn Sie ein KMU sind und KI im HR-Bereich oder bei Entscheidungen über den Zugang zu Dienstleistungen einsetzen, sind die Pflichten auf Sie anwendbar.
Chatbot im Kundendienst — ist das High-Risk?
In den meisten Fällen nicht — wenn der Chatbot lediglich Fragen beantwortet und ein menschlicher Mitarbeiter über wesentliche Angelegenheiten entscheidet. Aber Vorsicht bei Edge Cases: Ein Chatbot, der medizinische Anfragen triagiert und auf Basis der KI-Ausgabe Rettungskräfte alarmiert oder nicht alarmiert, kann anders klassifiziert werden. Beurteilen Sie stets den konkreten Use-Case, nicht nur die Form (Chatbot vs. anderes).
Wenn wir ein Modell wie OpenAI oder Anthropic verwenden — haften diese?
Modellanbieter haben eigene Pflichten — insbesondere bei GPAI-Modellen (Transparenz, Urheberrecht, Sicherheitstests). Aber Artikel 26 richtet sich an Deployer — das sind Sie. Der Modellanbieter ist nicht verantwortlich dafür, wofür Sie sein Modell in Ihrem Produkt einsetzen. Die Verantwortung für Deployment, Use-Case, Human Oversight und Dokumentation trägt die einsetzende Firma.
Wie unterscheiden sich die Bußgelder des EU AI Act von denen der DSGVO?
DSGVO: Bußgelder bis zu 4 % des weltweiten Jahresumsatzes oder 20 Millionen Euro (je nachdem, was höher ist) bei den schwerwiegendsten Verstößen. EU AI Act: Bußgelder bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro für einsetzende Parteien bei High-Risk-Verstößen; strenger bei verbotenen Praktiken (7 % / 35 Mio. Euro). Beide Regelwerke können durch denselben Sachverhalt gleichzeitig verletzt werden — eine Kumulierung der Bußgelder ist möglich.
Was, wenn unser System kein High-Risk-System ist, wir aber Daten in der Cloud außerhalb der EU verarbeiten?
Der AI Act ist in diesem Punkt ein eigenständiges Problem von der Frage, wo Daten verarbeitet werden — das regelt die DSGVO. Aber beide Regelwerke werden typischerweise gleichzeitig verletzt: ein High-Risk-KI-System mit personenbezogenen Daten, ohne DSFA, auf Infrastruktur ohne Standardvertragsklauseln, ist ein vierfacher Verstoß. Deployments in regulierten Branchen (Gesundheitswesen, Finanzdienstleistungen) haben zusätzlich noch sektorspezifische Vorschriften. Für diese Fälle ist das Argument für On-prem oder EU-hosted LLM nicht nur technischer, sondern auch compliance-getriebener Natur.
*Der EU AI Act hat eine neue Art von Verantwortung eingeführt — nicht nur dafür, was Unternehmen mit Daten machen, sondern dafür, was KI-Systeme mit Menschen machen. Die gute Nachricht ist, dass Unternehmen mit geordneten DSGVO-Prozessen und einem soliden Sicherheitsmanagement eine gute Ausgangsbasis haben. MP Industrial Solutions unterstützt technische Teams dabei, ihren Compliance-Stand zu bewerten und Dokumentation, Monitoring sowie Human-Oversight-Prozesse einzurichten, bevor eine Frist oder ein Audit naht.*