Der EU AI Act teilt KI-Systeme in vier Risikoklassen ein: inakzeptabel (verboten), hoch (strenge Pflichten), begrenzt (Transparenzpflichten) und minimal (keine besonderen Pflichten). Die Einteilung folgt der Verordnung (EU) 2024/1689 mit den Kernartikeln 5, 6 und 50. Je höher das Risiko, desto umfangreicher die Dokumentations- und Aufsichtspflichten. Unternehmen, die KI einsetzen oder entwickeln, müssen ihre Anwendungen deshalb aktiv einer dieser vier Stufen zuordnen.
Kurz gesagt:
- Nur Systeme mit geringem Risiko benötigen keine besonderen Maßnahmen, doch Datenschutz und Urheberrecht bleiben stets gültig.
- Hochrisiko-KI erfordert ab 2027 umfassende Dokumentation, Risikomanagement und regelmäßige Prüfungen während des gesamten Lebenszyklus.
- Für begrenztes Risiko ist die deutliche Kennzeichnung von KI-Interaktionen und Deepfakes ab August 2026 verpflichtend, Konformitätsbewertungen sind nicht vorgeschrieben.
- Inakzeptable Praktiken wie Social-Scoring oder manipulative biometrische Überwachung sind grundsätzlich verboten, abhängig vom Zweck und Einsatzort.
- Unternehmen sollten eine systematische, nachvollziehbare Einstufung ihrer KI-Systeme vornehmen, um spätere Rechtsunsicherheiten zu vermeiden.
Inhaltsverzeichnis
- Inakzeptables Risiko: Was Artikel 5 vollständig verbietet
- Hochrisiko-KI: Pflichten nach Artikel 6 und Konformitätsbewertung
- Begrenztes Risiko: Transparenzpflichten nach Artikel 50
- Minimales Risiko: Was ohne besondere Pflichten bleibt
- Wie Sie Ihre KI-Anwendungen Schritt für Schritt einstufen
- Zeitplan und zuständige Behörden im Überblick
- Praxisblick: Typische Fallstricke bei KMU
- Dokumentierte Einstufung als Hebel für Rechtssicherheit
- Unterstützung bei Einstufung und Compliance-Vorbereitung
- FAQ
- Quellen
Inakzeptables Risiko: Was Artikel 5 vollständig verbietet
Artikel 5 der Verordnung untersagt bestimmte KI-Praktiken grundsätzlich, unabhängig vom Einsatzkontext. Der Gesetzgeber geht hier nicht von abwägbaren Risiken aus, sondern von Praktiken, die Grundrechte unmittelbar gefährden.
Zu den verbotenen Anwendungen zählen laut Leitlinien der EU-Kommission:
- Social-Scoring-Systeme, die Menschen anhand ihres Verhaltens oder sozialer Merkmale bewerten und benachteiligen.
- Manipulative Systeme, die unterbewusste Techniken nutzen, um Verhalten gegen den Willen einer Person zu beeinflussen.
- Bestimmte biometrische Echtzeit-Fernidentifikation im öffentlichen Raum, mit engen Ausnahmen für Strafverfolgung.
Wichtig: Nicht jede Gesichtserkennung fällt unter das Verbot. Die Abgrenzung hängt vom Zweck, vom Einsatzort und von der Frage ab, ob eine Echtzeit-Überwachung im öffentlichen Raum stattfindet. Wer ein verbotenes Muster in seinem Produkt erkennt, muss es abschalten oder grundlegend umgestalten, eine Konformitätsbewertung reicht hier nicht aus.
Hochrisiko-KI: Pflichten nach Artikel 6 und Konformitätsbewertung
Hochrisiko-Systeme sind nicht verboten, unterliegen aber umfangreichen Anforderungen. Typische Felder sind Bildung, Beschäftigung, Zugang zu wesentlichen Leistungen und Strafverfolgung, dort wirken sich Fehlentscheidungen einer KI besonders stark auf Einzelpersonen aus.
Die Leitlinien des AI Act Service Desk nennen die zentralen Pflichten:
- Risikomanagementsystem über den gesamten Lebenszyklus des Systems einrichten.
- Daten-Governance sicherstellen, damit Trainingsdaten repräsentativ und fehlerarm bleiben.
- Technische Dokumentation und Protokollierung lückenlos führen.
- Menschliche Aufsicht organisatorisch verankern, nicht nur technisch ermöglichen.
- Genauigkeit, Robustheit und Cybersicherheit nachweisen und regelmäßig prüfen.
Für Anhang-III-Systeme gelten die einschlägigen Pflichten ab dem 2. Dezember 2027, produktbezogene Hochrisiko-KI folgt ab dem 2. August 2028, so die Leitlinien zur Hochrisiko-Klassifizierung. Bis dahin lohnt sich eine Vorab-Prüfung: Welche Systeme sind betroffen, welche Dokumente fehlen noch, wer übernimmt die Konformitätsbewertung.
Profi-Tipp: Beginnen Sie die technische Dokumentation parallel zur Entwicklung, nicht erst kurz vor einem Audit.
Begrenztes Risiko: Transparenzpflichten nach Artikel 50
Bei begrenztem Risiko verlangt Artikel 50 vor allem Offenlegung, keine inhaltliche Prüfung des Systems. Wer mit einer Person interagiert, muss erkennbar machen, dass eine KI und keine Person antwortet.
Konkrete Pflichten laut FAQ des AI Act Service Desk:
- Deutliche UI-Hinweise bei Chatbots und anderen interaktiven Systemen.
- Kennzeichnung von Deepfakes und anderen synthetischen Inhalten mit Täuschungspotenzial.
- Maschinenlesbare Metadaten für generative Inhalte, soweit technisch machbar.
Transparenzpflichten werden ab dem 2. August 2026 durchsetzbar, mit Anpassungsfristen für bestimmte Anforderungen bis zum 2. Dezember 2026, so der AI Act Service Desk. Wer generative Systeme einsetzt, sollte die Kennzeichnung also jetzt schon mitplanen, nicht erst kurz vor der Frist.
Minimales Risiko: Was ohne besondere Pflichten bleibt
Spamfilter, Schreibassistenz oder KI in Videospielen gelten meist als minimales Risiko: Der AI Act selbst verlangt hier keine besonderen Maßnahmen. Das heißt aber nicht, dass gar kein Recht greift.
Datenschutz, Urheberrecht sowie Arbeits- und Produktsicherheitsrecht bleiben unabhängig von der Risikoklasse bestehen. Ein Schreibassistent etwa verarbeitet weiterhin personenbezogene Daten, und die Datenschutz-Grundverordnung gilt unverändert weiter. Freiwillige Verhaltenskodizes und interne Standards sind deshalb eine sinnvolle Ergänzung, auch ohne gesetzliche Pflicht.
Wie Sie Ihre KI-Anwendungen Schritt für Schritt einstufen
Eine nachvollziehbare Einstufung ist für Unternehmen wertvoller als ein pauschales Label, das sich später als falsch herausstellt. Die Leitlinien zur Klassifizierung von Hochrisiko-Systemen empfehlen einen systematischen Ablauf.
- Inventar erstellen: Welche KI-Systeme sind im Unternehmen tatsächlich im Einsatz oder in Planung?
- Zweck klären: Wofür wird das System konkret eingesetzt, und in welchem Kontext?
- Betroffene Gruppen identifizieren: Wer ist von Entscheidungen oder Ausgaben des Systems betroffen?
- Schadensanalyse durchführen: Welche Folgen hätte eine Fehlentscheidung für diese Gruppen?
- Abgleich mit Artikel 5, Artikel 6 und Anhang III: Fällt das System in eine verbotene oder hochriskante Kategorie?
- Dokumentation anlegen: Einstufungsbegründung, Datenflüsse und Lieferantenerklärungen festhalten.
Bei sensiblen Anwendungen kann eine Grundrechte-Folgenabschätzung nach Artikel 27 erforderlich werden. Sie sollte Zweck, betroffene Gruppen, Risiken, menschliche Aufsicht und Beschwerdemechanismen beschreiben, und sie lässt sich teilweise auf eine bereits vorhandene Datenschutz-Folgenabschätzung stützen. Legen Sie außerdem fest, wer im Unternehmen für die Einstufung verantwortlich ist und wie oft sie überprüft wird, ein Änderungsprotokoll erleichtert spätere Audits erheblich.
Profi-Tipp: Dokumentieren Sie auch, warum ein System nicht als hochriskant eingestuft wurde, nicht nur die positiven Treffer.
Zeitplan und zuständige Behörden im Überblick
Die Verordnung ist seit dem 1. August 2024 in Kraft, zentrale Verbote nach Artikel 5 gelten bereits seit dem 2. Februar 2025. Der allgemeine Anwendungsbeginn der Verordnung liegt beim 2. August 2026, mit gestaffelten Übergangsfristen für Hochrisiko-Systeme bis 2027 und 2028, so die EU-Digitalstrategie.
Die Durchsetzung liegt nicht bei einer einzigen Behörde. Auf EU-Ebene koordiniert das AI Office, in Deutschland übernimmt unter anderem die Bundesnetzagentur Aufgaben der Marktüberwachung. Für Einkauf und Vertragsgestaltung bedeutet das: Wer jetzt KI-Systeme beschafft, sollte Lieferantenerklärungen zur Risikoeinstufung bereits in Verträge aufnehmen, auch wenn einzelne Pflichten erst später greifen.
Praxisblick: Typische Fallstricke bei KMU
In unserer Beratungsarbeit sehen wir immer wieder dieselben Muster: Systeme werden pauschal als "geringes Risiko" eingestuft, ohne die Einstufung schriftlich zu begründen. Oder die menschliche Aufsicht existiert nur auf dem Papier, niemand prüft tatsächlich die Ausgaben des Systems.
Ein einfaches Einstufungs-Template mit wenigen Pflichtfeldern, Zweck, betroffene Gruppen, Risikoklasse, Begründung, verhindert die meisten dieser Lücken. In Workshops arbeiten wir mit Entscheidungsteams genau dieses Template durch, Anwendung für Anwendung, damit die Einstufung im Unternehmen bleibt und nicht von einer einzelnen Person abhängt.
Dokumentierte Einstufung als Hebel für Rechtssicherheit
Eine nachvollziehbare Einstufung ist kein Papiertiger, sie entscheidet im Streitfall oder beim Audit darüber, ob ein Unternehmen handlungsfähig bleibt. Zu viele Betriebe verwechseln dabei Compliance-Aufwand mit Innovationsbremse, dabei schützt eine klare Dokumentation gerade die Spielräume, die für neue KI-Projekte nötig sind.
Wer jetzt dokumentiert, muss später nicht rekonstruieren. Das ist der eigentliche Vorteil einer frühen, ehrlichen Einstufung.
— Shaun
Unterstützung bei Einstufung und Compliance-Vorbereitung
Eine belastbare Risikoeinstufung kostet Zeit, die viele kleine und mittelständische Unternehmen neben dem Tagesgeschäft kaum aufbringen können. Wir begleiten genau diesen Prozess: von der KI-Strategieberatung über einen Einstufungs-Workshop bis zur Begleitung bei Grundrechte-Folgenabschätzungen.
Am Ende eines solchen Auftrags steht bei uns ein konkretes Einstufungsdokument mit Maßnahmenplan, nicht nur eine Präsentation. Einen Überblick über unsere Leistungen zur KI-Strategieberatung finden Sie auf unserer Website, und für ein erstes Gespräch erreichen Sie uns direkt über unsere Kontaktseite.
Dieser Artikel enthält allgemeine Informationen und ersetzt nicht die Beratung durch einen qualifizierten Anwalt. Wenden Sie sich an eine qualifizierte Rechtsfachperson zu Ihrer persönlichen Lage, bevor Sie auf Grundlage dieses Inhalts handeln.
FAQ
Welche Akteure sind vom AI Act betroffen?
Betroffen sind Anbieter, die KI-Systeme entwickeln oder in Verkehr bringen, sowie Betreiber, die diese Systeme beruflich nutzen. Je nach Rolle und Risikoklasse des Systems unterscheiden sich die konkreten Pflichten, von Dokumentation bis Transparenzhinweisen, wie die EU-Digitalstrategie beschreibt.
Welche Stufen der KI gibt es?
Der AI Act unterscheidet vier Risikoklassen: inakzeptabel, hoch, begrenzt und minimal. Inakzeptable Praktiken sind verboten, Hochrisiko-Systeme unterliegen strengen Pflichten, begrenztes Risiko löst Transparenzpflichten aus, minimales Risiko bleibt weitgehend ohne besondere Vorgaben, so die EU-Kommission.
Was fällt unter den AI Act?
Der AI Act regelt KI-Systeme, die in der EU in Verkehr gebracht oder genutzt werden, unabhängig vom Sitz des Anbieters. Erfasst sind sowohl eigenständige KI-Produkte als auch KI-Komponenten in größeren Systemen, sofern sie unter eine der vier Risikoklassen fallen.
Was müssen Hochrisiko-Systeme konkret leisten?
Hochrisiko-Systeme benötigen ein Risikomanagementsystem, Daten-Governance, technische Dokumentation, menschliche Aufsicht sowie Nachweise zu Genauigkeit und Cybersicherheit. Die einschlägigen Pflichten für Anhang-III-Systeme greifen ab dem 2. Dezember 2027, wie die Leitlinien des AI Act Service Desk festhalten.
Ab wann gelten die Transparenzpflichten für generative KI?
Die Transparenzpflichten nach Artikel 50 werden ab dem 2. August 2026 durchsetzbar, mit Anpassungsfristen für bestimmte Anforderungen bis zum 2. Dezember 2026. Das betrifft vor allem die Kennzeichnung von Deepfakes und anderen synthetischen Inhalten, so die FAQ des AI Act Service Desk.