KI-Risikobewertung: So stufen KMU ihre KI-Systeme richtig ein

Eine KI-Risikobewertung beantwortet zwei Fragen: In welche Risikoklasse der EU-KI-Verordnung fällt Ihr KI-System, und welche Schäden kann es konkret anrichten? Aus der Antwort ergeben sich Ihre Pflichten. Für die meisten Werkzeuge im Mittelstand, etwa Textassistenten, Spamfilter oder Übersetzungstools, sind das wenige Pflichten. Bei Bewerberauswahl, Kreditprüfung oder Sicherheitsbauteilen kommen Risikomanagement, Dokumentation und menschliche Aufsicht hinzu. Hier lesen Sie, wie Sie Schritt für Schritt einstufen, bewerten und dokumentieren, und zwar so, dass es in einem kleinen oder mittleren Unternehmen machbar bleibt.

Kurz gesagt

• Risiko heißt im Gesetz: Wahrscheinlichkeit eines Schadens kombiniert mit seiner Schwere. Die KI-Verordnung kennt vier Stufen: unannehmbar, hoch, begrenzt, minimal.
• Die Einstufung folgt einer festen Reihenfolge: Anwendungsbereich, KI-System ja oder nein, verboten, hochriskant, transparenzpflichtig, minimal.
• Verbotene Praktiken gelten seit Februar 2025, ebenso die Anforderungen an die KI-Kompetenz. Die Hochrisiko-Pflichten greifen für Anhang-III-Systeme ab dem 2. Dezember 2027.
• Für KMU gibt es Erleichterungen, etwa eine vereinfachte technische Dokumentation und gedeckelte Bußgelder.
• Datenschutz gehört dazu: Eine gute KI-Risikoanalyse verbindet die Einstufung nach KI-Verordnung mit Schwellenwertanalyse und, wenn nötig, einer Datenschutz-Folgenabschätzung.

Inhaltsverzeichnis

• Was eine KI-Risikobewertung leistet
• Die vier Risikoklassen im Überblick
• In sechs Schritten zur Risikoeinstufung
• Anbieter oder Betreiber: Wer welche Pflichten trägt
• Fristen: Was seit wann gilt
• Risiken bewerten: Wahrscheinlichkeit und Schwere
• Datenschutz, Sicherheit und menschliche Aufsicht verzahnen
• Was in eine nachvollziehbare Dokumentation gehört
• Was bei Verstößen droht
• Unsere Sicht: Risikobewertung als Startpunkt, nicht als Bremse
• Begleitung für Ihre KI-Risikobewertung
• Häufige Fragen
• Quellen

Was eine KI-Risikobewertung leistet

Die KI-Verordnung (Verordnung (EU) 2024/1689) arbeitet risikobasiert: Je größer das Risiko eines Systems für Gesundheit, Sicherheit und Grundrechte, desto strenger die Regeln. Den Begriff selbst definiert sie in Artikel 3 Nr. 2 als Kombination aus der Wahrscheinlichkeit eines Schadens und dessen Schwere. Daraus folgen zwei Ebenen, die Sie auseinanderhalten sollten:

1. Die rechtliche Einstufung. Sie ordnen jedes KI-System einer der vier Risikoklassen zu. Das entscheidet, welche Artikel der Verordnung für Sie gelten.
2. Die betriebliche Risikoanalyse. Sie prüfen, was im eigenen Einsatz schiefgehen kann: falsche Ergebnisse, diskriminierende Muster, Datenabfluss, fehlende Kontrolle. Das ist klassisches Risikomanagement, angewendet auf KI.

Viele Unternehmen bleiben bei der ersten Ebene stehen. Wer aber nur weiß, dass sein Chatbot „begrenztes Risiko“ hat, weiß noch nicht, ob er personenbezogene Daten in ein Drittland schickt oder Kunden falsche Preise nennt. Erst beide Ebenen zusammen ergeben eine Bewertung, auf die sich Geschäftsführung, Datenschutzbeauftragte und Mitarbeitende verlassen können.

Der Nutzen geht über Compliance hinaus. Eine saubere Bewertung zeigt Ihnen, welche KI-Anwendungen Sie ohne großen Aufwand ausrollen können und wo Sie Zeit für Kontrolle einplanen müssen. Damit wird sie zur Grundlage für Ihren KI-Fahrplan.

Die vier Risikoklassen im Überblick

Die Industrie- und Handelskammern beschreiben die Stufen mit typischen Beispielen, die sich gut auf den Mittelstand übertragen lassen. Die folgende Tabelle fasst die Beispiele der DIHK zu den Risikoprofilen zusammen:

Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026. Wenn Sie also einen Website-Chatbot oder KI-generierte Bilder in Kampagnen einsetzen, ist die Kennzeichnung bereits jetzt Pflicht. Eine ausführlichere Einordnung jeder Stufe finden Sie in unserem Beitrag zu den AI-Act-Risikoklassen und ihren Pflichten.

In sechs Schritten zur Risikoeinstufung

Die Einstufung folgt einer Prüfreihenfolge, die sich aus dem Aufbau der Verordnung ergibt. Gehen Sie für jedes System in Ihrem Unternehmen diese Fragen der Reihe nach durch:

1. Ist der Anwendungsbereich eröffnet? Ausgenommen sind unter anderem militärische Zwecke und rein wissenschaftliche Forschung. Für ein normales Unternehmen ist der Bereich fast immer eröffnet.
2. Handelt es sich überhaupt um ein KI-System? Artikel 3 Abs. 1 definiert ein KI-System über Merkmale wie Autonomie, Anpassungsfähigkeit und die Fähigkeit, aus Eingaben Ergebnisse wie Vorhersagen, Inhalte oder Entscheidungen abzuleiten. Eine klassische Wenn-dann-Regel in Excel ist kein KI-System, ein Sprachmodell schon.
3. Ist es eine verbotene Praxis nach Artikel 5? Wenn ja, endet die Prüfung: Das System darf nicht eingesetzt werden.
4. Ist es hochriskant? Prüfen Sie zwei Wege: Ist die KI ein Sicherheitsbauteil eines Produkts, das unter EU-Harmonisierungsrecht nach Anhang I fällt (etwa Maschinen oder Medizinprodukte)? Oder fällt der Einsatzzweck unter einen der Bereiche in Anhang III (etwa Beschäftigung, Bildung, Zugang zu wesentlichen Dienstleistungen)?
5. Bestehen Transparenzpflichten nach Artikel 50? Das betrifft Systeme, die mit Menschen interagieren oder synthetische Inhalte erzeugen.
6. Bleibt nur minimales Risiko? Dann dokumentieren Sie das Ergebnis trotzdem kurz, damit Sie es später belegen können.

Wichtig: Ein System kann gleichzeitig hochriskant und transparenzpflichtig sein. Ein Chatbot, der Bewerbende vorsortiert, unterliegt beiden Regelwerken.

Die Ausnahme in Artikel 6 Absatz 3

Nicht jedes System aus einem Anhang-III-Bereich ist automatisch hochriskant. Nach Artikel 6 Abs. 3 gilt es nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt und das Ergebnis einer Entscheidung nicht wesentlich beeinflusst. Das trifft zum Beispiel zu, wenn die KI nur eine eng umrissene verfahrenstechnische Aufgabe erledigt, eine bereits abgeschlossene menschliche Tätigkeit verbessert oder Entscheidungsmuster erkennt, ohne die menschliche Bewertung zu ersetzen.

Eine Grenze zieht das Gesetz klar: Sobald das System ein Profiling natürlicher Personen vornimmt, ist es immer hochriskant. Ein Tool, das Bewerbungsunterlagen nur auf Vollständigkeit prüft, kann also unter die Ausnahme fallen. Ein Tool, das Bewerbende nach Persönlichkeitsmerkmalen rankt, fällt nicht darunter. Wer sich auf die Ausnahme beruft, sollte die Begründung schriftlich festhalten.

Anbieter oder Betreiber: Wer welche Pflichten trägt

Die meisten KMU entwickeln keine eigene KI, sondern setzen eingekaufte Systeme ein. Rechtlich sind sie dann Betreiber. Wer ein System entwickelt oder unter eigenem Namen in Verkehr bringt, ist Anbieter. Die Rollen bringen unterschiedliche Pflichten bei Hochrisiko-Systemen mit sich, wie sie Kapitel III der KI-Verordnung festlegt:

Achtung bei Eigenanpassungen: Wer ein eingekauftes System wesentlich verändert oder für einen anderen Zweck einsetzt als vorgesehen, kann selbst in die Anbieterrolle rutschen. Klären Sie das, bevor Sie ein Standard-Tool für Personalentscheidungen umbauen.

Fristen: Was seit wann gilt

Die Verordnung gilt gestaffelt. Die folgenden Termine sind Geltungsbeginne aus dem Gesetz:

Die späteren Termine für Hochrisiko-KI gehen auf den Digital Omnibus zurück: Rat und Parlament verständigten sich im Mai 2026 darauf, die Hochrisiko-Pflichten nach hinten zu verschieben. Verschoben heißt nicht erledigt. Wer heute ein KI-System für Personalauswahl oder Kreditentscheidungen einführt, baut die Prozesse besser gleich so, dass sie Ende 2027 tragen.

Risiken bewerten: Wahrscheinlichkeit und Schwere

Nach der Einstufung folgt die eigentliche Risikoanalyse. Für Hochrisiko-Systeme schreibt Artikel 9 ein Risikomanagementsystem vor, das als kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus läuft: bekannte und vorhersehbare Risiken ermitteln, abschätzen und bewerten, Daten aus der Beobachtung nach dem Inverkehrbringen einbeziehen und gezielte Maßnahmen ergreifen. Dazu gehört auch, das System anhand vorab festgelegter Metriken und Schwellenwerte zu testen, spätestens vor dem Inverkehrbringen.

Diese Logik lohnt sich auch für Systeme mit geringerem Risiko. In der Praxis bewährt sich eine einfache Matrix: Sie bewerten jedes Risiko nach Wahrscheinlichkeit (1 bis 5) und Schwere (1 bis 5) und multiplizieren beide Werte.

Ein Rechenbeispiel aus dem Handwerk

Nehmen wir einen Elektrobetrieb mit 25 Mitarbeitenden, der einen KI-Chatbot auf der Website für Terminanfragen einsetzt und ein Sprachmodell für Angebotstexte nutzt.

Werte ab etwa 10 behandeln Sie zuerst. Das Beispiel zeigt: Auch ohne Hochrisiko-System ergeben sich konkrete Aufgaben, und die wichtigsten Maßnahmen kosten wenig. Wie KI im Handwerk sinnvoll startet, zeigen wir auf unserer Seite zu KI im Handwerk.

Fünf Phasen, die jede Analyse durchläuft

Ob Chatbot oder Prognosemodell in der Verkehrsplanung: Eine belastbare KI-Risikoanalyse folgt fünf Stufen:

1. Kontext und Kriterien festlegen: Zweck, Nutzergruppen, betroffene Personen, Datenquellen.
2. Risiken identifizieren: technische, rechtliche, organisatorische und ethische.
3. Risiken analysieren und bewerten, etwa mit der Matrix oben.
4. Risiken behandeln: vermeiden, mindern, übertragen oder bewusst akzeptieren.
5. Überwachen: Ergebnisse regelmäßig prüfen und die Bewertung nach Änderungen aktualisieren.

Datenschutz, Sicherheit und menschliche Aufsicht verzahnen

Sobald ein KI-System personenbezogene Daten verarbeitet, greift neben der KI-Verordnung auch die DSGVO. Die Landesdatenschutzbehörde Mecklenburg-Vorpommern empfiehlt in ihrem KI-Leitfaden von Juli 2026 eine klare Reihenfolge:

• Schwellenwertanalyse: eine Vorabprüfung, ob die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt.
• Datenschutz-Folgenabschätzung (DSFA): bei hohem Risiko verpflichtend. Sie lässt sich gut mit der KI-Risikoanalyse zusammenführen, weil beide dieselben Fragen nach Zweck, Daten und Folgen stellen.
• Technische und organisatorische Maßnahmen nach dem Standard-Datenschutzmodell (SDM): etwa Zugriffsrechte, Protokollierung, Löschkonzepte.
• Menschliche Aufsicht: Natürliche Personen mit der nötigen Kompetenz, Ausbildung und Befugnis behalten die Kontrolle.

Menschliche Aufsicht ist mehr als eine Unterschrift. Die aufsichtführende Person muss verstehen, was das System kann und wo es an Grenzen stößt, seine Ergebnisse richtig deuten und es übersteuern oder anhalten können. Genau hier hilft erklärbare KI: Wenn Sie nachvollziehen können, warum ein System eine Empfehlung gibt, wird Aufsicht praktikabel. Mehr dazu in unserem Beitrag über erklärbare KI für KMU.

Ein Alltagsfall, an dem sich das gut üben lässt, sind KI-Protokolle von Besprechungen: Hier treffen Aufzeichnung, Einwilligung und Speicherort zusammen. Was dabei rechtlich und technisch zu beachten ist, haben wir für die Meeting-Zusammenfassung mit KI aufbereitet.

KI-Kompetenz als Teil der Risikominderung

Unabhängig von der Risikoklasse verlangt Artikel 4, dass Anbieter und Betreiber für ein ausreichendes Maß an KI-Kompetenz beim Personal sorgen, abgestimmt auf das System, seine Risikoeinstufung und die jeweilige Aufgabe. Damit dürfte nahezu jedes Unternehmen als Betreiber betroffen sein. Der konkrete Schulungsbedarf ergibt sich aus Ihren tatsächlichen Anwendungsfällen: Die Buchhaltung braucht anderes Wissen als das Marketing. Was Schulungen inhaltlich abdecken sollten, lesen Sie in unserem Beitrag zur KI-Schulung für Mitarbeiter.

Was in eine nachvollziehbare Dokumentation gehört

Eine Risikobewertung, die nur im Kopf existiert, hilft bei einer Prüfung nicht. Halten Sie für jedes KI-System mindestens fest:

• Name, Anbieter, Version und Einsatzzweck
• Ihre Rolle: Anbieter oder Betreiber
• Ergebnis der Prüfschritte 1 bis 6 mit kurzer Begründung, bei Berufung auf Art. 6 Abs. 3 ausführlich
• Risikomatrix mit Maßnahmen, Verantwortlichen und Terminen
• Ergebnis der Schwellenwertanalyse, gegebenenfalls die DSFA
• Wer die menschliche Aufsicht ausübt und wie diese Person geschult ist
• Datum der letzten Überprüfung und Anlass für die nächste

Für Anbieter von Hochrisiko-Systemen kommt die technische Dokumentation nach Anhang IV hinzu. Hier gibt es eine Erleichterung: KMU, Start-ups und kleine Midcap-Unternehmen dürfen die Elemente in vereinfachter Weise bereitstellen; die EU-Kommission erstellt dafür ein eigenes Formular. Auf Basis dieser Dokumentation läuft anschließend die Konformitätsbewertung nach Artikel 43. Lückenhafte oder vage Unterlagen sind dabei die häufigste Stolperfalle, deshalb lohnt es sich, von Anfang an sauber zu dokumentieren.

Nach dem Start endet die Arbeit nicht. Anbieter beobachten ihre Hochrisiko-Systeme im Betrieb, melden schwerwiegende Vorfälle und bewerten nach wesentlichen Änderungen neu. Planen Sie die Risikobewertung deshalb als festen Termin im Jahr ein, etwa im Rahmen Ihres Managementreviews, und zusätzlich bei jedem Update oder neuen Einsatzzweck.

Was bei Verstößen droht

Die Bußgelder richten sich nach Artikel 99. Für verbotene Praktiken sieht die Verordnung bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor, für andere Verstöße niedrigere Stufen. Für KMU einschließlich Start-ups gilt jeweils der niedrigere der beiden Werte. Das ist kein Grund zur Panik, wohl aber ein Argument, die Einstufung jetzt zu erledigen statt kurz vor einer Prüfung.

Unsere Sicht: Risikobewertung als Startpunkt, nicht als Bremse

In unseren Projekten mit Handwerksbetrieben, Ingenieurbüros und mittelständischen Dienstleistern erleben wir oft dasselbe Muster: Die KI-Verordnung wird als Hürde wahrgenommen, bevor überhaupt klar ist, welche Systeme im Haus laufen. Sobald wir gemeinsam eine Bestandsaufnahme machen, zeigt sich meist, dass ein großer Teil der Anwendungen in die Klassen mit geringen Pflichten fällt.

Deshalb setzen wir die Risikobewertung an den Anfang jedes KI-Fahrplans. Sie schafft Klarheit darüber, was sofort produktiv eingesetzt werden kann, wo Transparenz nötig ist und wo es menschliche Kontrolle braucht. Diese Klarheit beschleunigt Entscheidungen, statt sie aufzuhalten.

Unser Ansatz ist bewusst praxisnah und auf schnellen ROI ausgerichtet: Wir analysieren Ihre Geschäftsprozesse, ordnen die KI-Anwendungen ein, verbinden das mit Datenschutz und schulen die Menschen, die später die Aufsicht tragen. Als zertifizierte INQA-Coaches achten wir darauf, dass die Lösung zu Ihrer Unternehmensgröße und Branche passt und Ihr Team sie im Alltag wirklich lebt.

Shaun

Begleitung für Ihre KI-Risikobewertung

Sie möchten Ihre KI-Systeme einstufen und die Ergebnisse direkt in einen umsetzbaren Plan überführen? Wir unterstützen KMU mit KI-Strategieberatung, Workshops und Mitarbeitertrainings: von der Analyse Ihrer Prozesse über die datenschutzkonforme Einordnung bis zur Schulung, die Artikel 4 verlangt. Auf Wunsch prüfen wir auch, welche Förderprogramme für Ihr Vorhaben infrage kommen, und begleiten den Antrag.

Ein guter Einstieg ist ein KI-ROI-Tag in Ihrem Unternehmen, an dem wir Potenziale und Risiken gemeinsam bewerten. Alle Formate finden Sie unter unseren Leistungen zur KI-Beratung, oder Sie vereinbaren direkt einen Termin. Wenn Sie noch ganz am Anfang stehen, hilft unser Überblick, wie der Einstieg in KI im Mittelstand gelingt.

Häufige Fragen

Muss jedes Unternehmen eine KI-Risikobewertung durchführen?

Jedes Unternehmen, das KI einsetzt, sollte seine Systeme mindestens einstufen, denn nur so weiß es, welche Pflichten gelten. Ein formales Risikomanagementsystem nach Artikel 9 schreibt die Verordnung für Hochrisiko-Systeme vor. Die KI-Kompetenz nach Artikel 4 betrifft dagegen alle Anbieter und Betreiber, unabhängig von der Risikoklasse.

Ist ChatGPT oder ein ähnlicher Textassistent ein Hochrisiko-System?

Das hängt vom Einsatzzweck ab, nicht vom Werkzeug. Für Texte, Zusammenfassungen oder Recherche liegt in der Regel kein hohes Risiko vor. Nutzen Sie dasselbe Modell, um Bewerbende zu bewerten oder über Kredite zu entscheiden, kann der Einsatz unter Anhang III fallen.

Wie oft sollte die Bewertung aktualisiert werden?

Mindestens einmal im Jahr und zusätzlich bei jeder wesentlichen Änderung: neues Modell, neuer Einsatzzweck, neue Datenquellen oder ein Vorfall. Für Hochrisiko-Systeme ist die laufende Überprüfung über den gesamten Lebenszyklus gesetzlich vorgegeben.

Reicht eine Datenschutz-Folgenabschätzung als KI-Risikobewertung?

Nein, beide überschneiden sich, decken aber nicht dasselbe ab. Die DSFA betrachtet Risiken für personenbezogene Daten, die KI-Risikobewertung zusätzlich Sicherheit, Grundrechte, Transparenz und menschliche Aufsicht. Sinnvoll ist es, beide in einem gemeinsamen Dokument zu führen.

Welche Erleichterungen gibt es für KMU?

KMU dürfen die technische Dokumentation für Hochrisiko-Systeme vereinfacht bereitstellen, und bei Bußgeldern gilt für sie jeweils der niedrigere Betrag. Die Pflichten selbst bleiben bestehen, der Aufwand lässt sich mit klaren Vorlagen und geschultem Personal aber gut beherrschen.

Quellen

• Landesbeauftragter für Datenschutz Mecklenburg-Vorpommern: Leitfaden Künstliche Intelligenz (07/2026)
• KI-Verordnung, Kapitel III: Hochrisiko-KI-Systeme
• KI-Verordnung, Kapitel III Abschnitt 2: Anforderungen an Hochrisiko-KI-Systeme
• DIHK: Wie regelt die KI-Verordnung KI-Systeme mit unterschiedlichen Risikoprofilen?
• ZKI: KI-Verordnung, KI-Kompetenz und Handlungsempfehlung
• heise online: AI Act verlangt KI-Kompetenz
• Haufe: Digital Omnibus und die Änderungen an der KI-Verordnung
• dejure.org: Art. 99 KI-Verordnung, Sanktionen
• Große FAQ zur KI-Verordnung

Empfehlungen

• AI Act Risikoklassen: Vier Stufen, klare Pflichten