Die AI Act Risikoklassen 2026 entscheiden darüber, ob eine KI-Anwendung verboten ist, strenge Hochrisiko-Pflichten auslöst, lediglich Transparenz verlangt oder weitgehend ohne zusätzliche AI-Act-Vorgaben genutzt werden kann. Entscheidend ist dabei nicht der Markenname des Tools. ChatGPT, Copilot oder eine andere KI ist nicht allein wegen ihrer technischen Leistungsfähigkeit automatisch Hochrisiko-KI. Maßgeblich sind der konkrete Einsatzzweck, die betroffenen Menschen, die Auswirkungen auf Entscheidungen und die Rolle des Unternehmens.
Hochrisiko-KI liegt insbesondere vor, wenn ein KI-System als sicherheitsrelevanter Bestandteil eines regulierten Produkts eingesetzt wird oder wenn der konkrete Anwendungsfall in Anhang III des EU AI Act fällt. Dazu gehören unter anderem bestimmte Systeme in Recruiting und Personalmanagement, Bildung, Kredit-Scoring, Lebens- und Krankenversicherung, kritischer Infrastruktur, Biometrie, Strafverfolgung, Migration, Justiz und demokratischen Prozessen. Nicht jede unterstützende KI-Funktion in diesen Bereichen ist automatisch Hochrisiko.
Nach der politischen Einigung zum sogenannten AI Omnibus weist die EU-Kommission derzeit den 2. Dezember 2027 für bestimmte Hochrisiko-Bereiche aus Anhang III und den 2. August 2028 für Hochrisiko-KI in regulierten Produkten aus. Der ursprüngliche Verordnungstext nennt frühere Daten. Unternehmen sollten deshalb die endgültige Veröffentlichung der geänderten Rechtsfassung weiter beobachten, aber ihre Bestandsaufnahme und Vorbereitung nicht aufschieben.
Kostenlosen AI-Act-Selbstcheck starten Zur AI-Act-Checkliste 2026
Die vier AI Act Risikoklassen 2026 einfach erklärt
Der EU AI Act folgt einem risikobasierten Ansatz. Je größer die mögliche Gefahr für Gesundheit, Sicherheit oder Grundrechte, desto strenger sind die Anforderungen. Die EU-Kommission stellt den Ansatz in vier Ebenen dar:
Verbotene KI
KI-Praktiken, die eine klare Bedrohung für Rechte, Sicherheit oder Lebensgrundlagen darstellen, dürfen grundsätzlich nicht eingesetzt werden.
Beispiele: bestimmtes Social Scoring, schädliche Manipulation, ungezieltes Sammeln von Gesichtsbildern, bestimmte biometrische Kategorisierung.
Strenge Compliance
KI mit erheblichem Einfluss auf Menschen, Sicherheit oder Grundrechte unterliegt umfassenden Anforderungen an Risiko, Daten, Dokumentation und menschliche Kontrolle.
Beispiele: Bewerberauswahl, Kredit-Scoring, Prüfungsbewertung, bestimmte Medizin- und Infrastruktursysteme.
Information und Kennzeichnung
Bestimmte KI-Anwendungen müssen transparent gemacht werden, ohne deshalb automatisch Hochrisiko-KI zu sein.
Beispiele: Chatbots, Deepfakes und bestimmte KI-generierte Inhalte.
Weitgehend frei nutzbar
Die meisten alltäglichen KI-Anwendungen fallen in diese Gruppe. Spezielle Hochrisiko-Regeln greifen nicht, andere Gesetze können dennoch gelten.
Beispiele: Spamfilter, einfache Textassistenz, KI in Videospielen.
Die vierstufige Darstellung hilft bei der Orientierung. Rechtlich kommt es jedoch auf die konkreten Vorschriften an: Artikel 5 regelt verbotene Praktiken, Artikel 6 und Anhang III die Einstufung als Hochrisiko-KI, Artikel 50 besondere Transparenzpflichten. „Mittleres Risiko“ ist keine eigene formale Kategorie des AI Act.
Eine detaillierte Prüfung verbotener Anwendungen findest du unter Welche KI ist 2026 verboten?. Für Chatbots, Deepfakes und KI-Inhalte gilt zusätzlich die Seite KI-Kennzeichnungspflicht 2026 nach Artikel 50.
AI Act Risikoklassen 2026 im direkten Vergleich
| Risikostufe | Typisches Merkmal | Beispiele | Was Unternehmen tun müssen |
|---|---|---|---|
| Verboten | Der Einsatz verletzt oder gefährdet grundlegende Rechte in einer Weise, die der AI Act nicht akzeptiert. | Bestimmte manipulative Systeme, Social Scoring, einzelne biometrische Praktiken. | Nicht einsetzen, bestehende Prozesse stoppen, rechtlich prüfen und dokumentieren. |
| Hochrisiko | KI beeinflusst wesentliche Entscheidungen, Zugangschancen, Sicherheit oder Grundrechte. | Recruiting-Scoring, Kreditwürdigkeit, Prüfungsbewertung, Notfall-Triage, bestimmte Medizinprodukte. | Risikomanagement, Datenqualität, Dokumentation, Logs, Human Oversight, Monitoring und weitere Pflichten. |
| Transparenz prüfen | Menschen müssen erkennen können, dass KI eingesetzt wurde oder ein Inhalt künstlich erzeugt ist. | Chatbots, KI-Sprachassistenten, Deepfakes, bestimmte öffentliche KI-Texte. | Information, Kennzeichnung oder technische Markierung sicherstellen. |
| Geringes Risiko | KI unterstützt ohne wesentlichen Einfluss auf sensible Entscheidungen. | Rechtschreibkorrektur, interne Ideenfindung, Spamfilter, einfache Textstrukturierung. | KI-Inventar, Datenschutz, Qualitätsprüfung, interne Regeln und KI-Kompetenz bleiben sinnvoll. |
Was ist Hochrisiko-KI nach dem AI Act?
Artikel 6 kennt im Kern zwei Wege, über die ein KI-System als Hochrisiko-KI eingestuft werden kann.
KI in regulierten Produkten
Das KI-System ist selbst ein reguliertes Produkt oder ein sicherheitsrelevanter Bestandteil eines Produkts, das unter die EU-Rechtsakte aus Anhang I fällt und eine Konformitätsbewertung durch eine unabhängige Stelle benötigt.
Typische Bereiche: Medizinprodukte, Maschinen, Fahrzeuge, Aufzüge, Spielzeug und andere harmonisierte Produktgruppen.
Anwendungsfälle aus Anhang III
Das KI-System wird für einen ausdrücklich genannten sensiblen Zweck eingesetzt, etwa im Recruiting, bei Kreditwürdigkeit, Bildung, kritischer Infrastruktur, Biometrie, Migration oder Justiz.
Entscheidend: Nicht die Branche allein, sondern die konkrete vorgesehene Verwendung des Systems.
Eine KI wird nicht deshalb zur Hochrisiko-KI, weil sie leistungsstark, teuer oder bekannt ist. Sie wird aufgrund ihres vorgesehenen Einsatzzwecks, ihrer Funktion und ihrer Auswirkungen eingestuft.
Schnelltest: Könnte deine KI Hochrisiko-KI sein?
Beantworte die folgenden Fragen. Schon ein „Ja“ bedeutet nicht automatisch, dass die Einstufung feststeht. Es zeigt aber, dass eine vertiefte Prüfung notwendig ist.
Sortiert, bewertet, rankt oder filtert sie Bewerbungen? Beeinflusst sie Beförderung, Kündigung, Aufgabenverteilung oder Leistungsbewertung?
Entscheidet sie über Zulassung, Bildungsniveau, Lernbewertung oder erkennt sie vermeintliches Fehlverhalten bei Prüfungen?
Erstellt sie Kredit-Scores oder beeinflusst sie Preis und Risiko in Lebens- oder Krankenversicherungen?
Ist sie sicherheitsrelevant für Strom, Gas, Wasser, Wärme, Verkehr oder kritische digitale Infrastruktur?
Hier muss zusätzlich geprüft werden, ob der Einsatz überhaupt erlaubt ist oder bereits unter ein Verbot fällt.
Bewertet sie Ansprüche, priorisiert Notrufe oder unterstützt sie die Triage in der Notfallversorgung?
Diese Bereiche sind ausdrücklich in Anhang III aufgeführt und erfordern eine besonders genaue Prüfung.
Zum Beispiel eines Medizinprodukts, einer Maschine oder eines Produkts mit externer Konformitätsbewertung?
Jetzt kostenlosen Selbstcheck durchführen
Die acht Hochrisiko-Bereiche aus Anhang III
Anhang III nennt acht Bereiche, in denen bestimmte KI-Systeme grundsätzlich als Hochrisiko-KI gelten können. Die folgende Tabelle übersetzt die offiziellen Kategorien in praktische Unternehmensbeispiele.
| Bereich aus Anhang III | Erfasste KI-Anwendungen | Praxisbeispiele | Wichtiger Hinweis |
|---|---|---|---|
| 1. Biometrie | Bestimmte Systeme zur biometrischen Fernidentifikation, biometrischen Kategorisierung und Emotionserkennung. | Nachträgliche Identifikation einer Person anhand von Kamerabildern; Emotionserkennung in erlaubten Kontexten. | Einige biometrische Anwendungen sind nicht nur Hochrisiko, sondern nach Artikel 5 ganz oder teilweise verboten. |
| 2. Kritische Infrastruktur | Sicherheitskomponenten in kritischer digitaler Infrastruktur, Straßenverkehr sowie Wasser-, Gas-, Wärme- oder Stromversorgung. | KI steuert Netzlasten, Verkehrsflüsse oder sicherheitsrelevante Betriebsabläufe. | Eine bloße Büro- oder Text-KI bei einem Stadtwerk ist dadurch nicht automatisch Hochrisiko. |
| 3. Bildung und Ausbildung | Zulassung, Zuweisung, Bewertung von Lernergebnissen, Bildungsniveau und Überwachung bei Prüfungen. | Automatisches Prüfungs-Scoring, Zulassungsranking, KI-Proctoring. | Einfache Lernhilfen ohne Entscheidungswirkung können anders einzuordnen sein. |
| 4. Beschäftigung und Personalmanagement | Recruiting, Bewerberfilterung, Kandidatenbewertung, Beförderung, Kündigung, Aufgabenverteilung und Leistungsüberwachung. | CV-Screening, Kandidatenranking, KI-Interviewanalyse, Performance-Scoring. | Eine KI, die nur eine Stellenanzeige sprachlich überarbeitet, ist nicht automatisch Hochrisiko. |
| 5. Wesentliche private und öffentliche Dienste | Sozialleistungen, Kreditwürdigkeit, Lebens- und Krankenversicherung, Notrufbewertung und Notfall-Triage. | Kredit-Score, Leistungsbewertung durch Behörden, Versicherungspricing, Priorisierung medizinischer Notfälle. | Betrugserkennung ist bei der Kreditwürdigkeitsausnahme gesondert zu betrachten, kann aber andere Risiken erzeugen. |
| 6. Strafverfolgung | Opferrisiko, Polygraphen, Beweisbewertung, Rückfallrisiko und Profiling in Ermittlungen. | KI bewertet Beweise oder unterstützt Risikoeinschätzungen im Strafverfahren. | Der Einsatz muss zusätzlich nach nationalem und europäischem Recht zulässig sein. |
| 7. Migration, Asyl und Grenzkontrolle | Risikoanalyse, Prüfung von Visa und Aufenthalt, Beweisbewertung sowie Identifikation im Grenzkontext. | Automatisierte Unterstützung bei Visums- oder Asylentscheidungen. | Hohe Grundrechtsrelevanz und besondere Anforderungen an Nachvollziehbarkeit. |
| 8. Justiz und demokratische Prozesse | Unterstützung gerichtlicher Rechtsanwendung sowie Systeme zur Beeinflussung von Wahlen oder Abstimmungen. | KI unterstützt die Anwendung des Rechts auf einen konkreten Fall; gezielte Wahlbeeinflussung. | Reine administrative Kampagnenorganisation ohne direkte Exposition natürlicher Personen ist ausgenommen. |
Recruiting und HR
KI im Recruiting gehört zu den bekanntesten Hochrisiko-Beispielen. Besonders kritisch sind Systeme, die Bewerbungen analysieren, Kandidaten filtern, Rankings erstellen oder Eignung bewerten. Eine reine Formulierungshilfe für Stellenanzeigen ist anders zu beurteilen. Die vertiefte Einordnung findest du unter EU AI Act HR 2026.
Kredit, Finanzen und Versicherungen
Systeme zur Bewertung der Kreditwürdigkeit natürlicher Personen oder zur Festlegung eines Kredit-Scores sind ausdrücklich erfasst. Auch bestimmte Risikobewertungen und Preisbildungen in Lebens- und Krankenversicherungen können Hochrisiko-KI sein. Mehr dazu unter EU AI Act Finanz 2026.
Gesundheit und Medizin
Im Gesundheitsbereich muss zwischen allgemeiner Assistenz, Notfall-Triage, Leistungsentscheidungen und KI in Medizinprodukten unterschieden werden. Eine Praxis-KI für Termintexte ist anders zu bewerten als eine Diagnose- oder Triagefunktion. Passende Vertiefungen:
Kritische Infrastruktur
Bei Stadtwerken, Versorgern und Infrastrukturbetreibern wird es besonders relevant, wenn KI als Sicherheitskomponente im Betrieb eingesetzt wird. Allgemeine Office-KI ist nicht allein wegen der Branche Hochrisiko. Mehr dazu unter NIS2 und EU AI Act für Stadtwerke und KRITIS.
Wann ein System aus Anhang III trotzdem nicht als Hochrisiko gilt
Artikel 6 Absatz 3 enthält eine wichtige Ausnahme. Ein in Anhang III genannter Anwendungsfall kann unter bestimmten Bedingungen dennoch nicht als Hochrisiko eingestuft werden, wenn das System kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt und das Ergebnis menschlicher Entscheidungen nicht wesentlich beeinflusst.
Das kann insbesondere in Betracht kommen, wenn die KI:
- nur eine enge, verfahrensbezogene Aufgabe ausführt,
- das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert,
- Entscheidungsmuster oder Abweichungen erkennt, ohne die abgeschlossene menschliche Bewertung zu ersetzen oder ohne angemessene menschliche Prüfung zu beeinflussen,
- nur eine vorbereitende Aufgabe für eine spätere relevante Bewertung übernimmt.
Führt das System Profiling natürlicher Personen durch, gilt es im Anwendungsbereich von Anhang III grundsätzlich immer als Hochrisiko-KI. Außerdem muss ein Anbieter, der sich auf die Ausnahme beruft, seine Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme dokumentieren und die einschlägigen Registrierungsregeln beachten.
Was bedeutet „nur vorbereitende Aufgabe“?
Eine vorbereitende Funktion kann beispielsweise Dokumente technisch sortieren oder Informationen für eine anschließende qualifizierte menschliche Prüfung zusammenstellen. Sobald die KI jedoch Kandidaten bewertet, Chancen beeinflusst, Entscheidungen vorprägt oder ein menschlicher Prüfer faktisch nur noch bestätigt, wird die Berufung auf eine Ausnahme deutlich schwieriger.
Human Oversight macht nicht automatisch alles harmlos
Ein Mensch am Ende des Prozesses verhindert nicht automatisch die Einstufung als Hochrisiko-KI. Entscheidend ist, ob die menschliche Prüfung tatsächlich kompetent, unabhängig und wirksam ist. Eine Person, die ohne ausreichende Informationen routinemäßig dem KI-Vorschlag folgt, stellt keine belastbare Kontrolle dar.
Hochrisiko-KI oder nicht? Konkrete Beispiele
| Anwendung | Erste Einordnung | Warum? | Nächster Schritt |
|---|---|---|---|
| ChatGPT erstellt einen internen E-Mail-Entwurf. | Meist gering | Keine sensible Entscheidung über eine Person. | Datenschutz, Vertraulichkeit und menschliche Prüfung regeln. |
| KI formuliert eine Stellenanzeige sprachlich um. | Prüfen | HR-Kontext, aber keine automatische Auswahl. Bias und Daten bleiben relevant. | Freigabe und Anti-Bias-Check dokumentieren. |
| KI filtert Bewerbungen und erstellt ein Ranking. | Potentiell Hochrisiko | Direkter Einfluss auf Zugang zu Beschäftigung. | Artikel 6, Anhang III, Anbieterunterlagen und Human Oversight prüfen. |
| KI korrigiert Rechtschreibung in Schülertexten. | Meist gering | Nur unterstützende Standardbearbeitung ohne Leistungsentscheidung. | Zweck und Datenverarbeitung dokumentieren. |
| KI bewertet Prüfungsleistungen und vergibt Notenvorschläge. | Potentiell Hochrisiko | Beeinflusst Lernbewertung und Bildungsweg. | Risikoeinstufung, Datenqualität, Einspruchsweg und menschliche Entscheidung festlegen. |
| Bank nutzt KI zur Ermittlung eines Kredit-Scores. | Hochrisiko wahrscheinlich | Kreditwürdigkeit natürlicher Personen ist ausdrücklich genannt. | Modell-, Daten-, Fairness- und Audit-Prüfung durchführen. |
| Bank nutzt KI nur zur Betrugserkennung. | Einzelfallprüfung | Fraud Detection ist bei der Kredit-Score-Regel ausgenommen, kann aber kundenwirksame Maßnahmen auslösen. | Auswirkungen, Fehlalarme, Sperren und manuelle Prüfung bewerten. |
| Arztpraxis erstellt mit KI eine freundliche Terminerinnerung. | Meist gering | Keine Diagnose oder medizinische Entscheidung. | Gesundheitsdaten und Auftragsverarbeitung prüfen. |
| KI priorisiert Patienten in der Notfallaufnahme. | Hochrisiko | Notfall-Triage ist ausdrücklich in Anhang III genannt. | Fachliche Kontrolle, Sicherheit, Datenqualität und Eskalation absichern. |
| KI-Chatbot beantwortet allgemeine Kundenfragen. | Transparenz | Nicht automatisch Hochrisiko, aber Nutzer müssen gegebenenfalls über die KI-Interaktion informiert werden. | Artikel 50 und Datenschutz prüfen. |
| KI steuert sicherheitskritische Prozesse im Stromnetz. | Potentiell Hochrisiko | Sicherheitskomponente kritischer Infrastruktur. | Systemgrenzen, NIS2, Cybersecurity und AI-Act-Pflichten gemeinsam prüfen. |
| KI sortiert interne Dateien nach Dateityp. | Gering | Enge Verfahrensaufgabe ohne wesentliche Entscheidung über Menschen. | Tool und Datenzugriff im KI-Inventar erfassen. |
Ist ChatGPT Hochrisiko-KI?
ChatGPT ist nicht pauschal Hochrisiko-KI. Allgemeine KI-Modelle und darauf basierende Anwendungen werden nicht allein aufgrund ihres Namens oder ihrer Fähigkeiten in die Hochrisiko-Kategorie eingeordnet.
Entscheidend ist, was ein Unternehmen daraus macht:
- ChatGPT für Ideen, Textentwürfe oder Zusammenfassungen: meist kein Hochrisiko-Einsatz.
- ChatGPT-gestützter Kundenchatbot: häufig Transparenzpflicht, aber nicht automatisch Hochrisiko.
- Ein darauf aufgebautes System bewertet Bewerber oder Kreditwürdigkeit: der konkrete Anwendungskontext kann Hochrisiko sein.
- Ein Modell wird in ein Medizinprodukt integriert: Produktrecht und Artikel 6 Absatz 1 müssen geprüft werden.
General-Purpose-AI-Modelle unterliegen eigenen Regeln. Ein GPAI-Modell mit systemischem Risiko ist nicht dasselbe wie ein Hochrisiko-KI-System nach Artikel 6. Gleichzeitig kann eine konkrete Hochrisiko-Anwendung auf einem allgemeinen Modell aufbauen.
Zur allgemeinen Nutzung im Unternehmen: ChatGPT legal im Business nutzen. Bei personenbezogenen Daten: ChatGPT und DSGVO 2026.
Hochrisiko-KI in regulierten Produkten
Der zweite große Hochrisiko-Weg betrifft KI, die selbst ein reguliertes Produkt oder eine Sicherheitskomponente eines Produkts ist. Dabei müssen zwei Voraussetzungen zusammenkommen:
- Das Produkt fällt unter einen der EU-Rechtsakte aus Anhang I.
- Für das Produkt oder die sicherheitsrelevante KI-Komponente ist eine Konformitätsbewertung durch eine unabhängige dritte Stelle erforderlich.
Typische Produktbereiche
- bestimmte Medizinprodukte und In-vitro-Diagnostika,
- Maschinen und sicherheitsrelevante Maschinenfunktionen,
- bestimmte Fahrzeuge und Verkehrssysteme,
- Aufzüge, persönliche Schutzausrüstung und Druckgeräte,
- Spielzeug und weitere harmonisierte Produktgruppen.
Die genaue Bewertung ist technisch und produktspezifisch. Besonders bei Medizintechnik müssen AI Act, MDR oder IVDR, Software-Lebenszyklus, Risikomanagement, klinische Bewertung, Post-Market-Surveillance und Cybersecurity zusammengedacht werden.
Anbieter oder Betreiber: Wer hat welche Verantwortung?
Die Pflichten hängen stark davon ab, ob dein Unternehmen ein System entwickelt und unter eigenem Namen anbietet oder es lediglich beruflich nutzt.
| Rolle | Typische Situation | Zentrale Verantwortung |
|---|---|---|
| Anbieter | Unternehmen entwickelt ein KI-System oder bringt es unter eigenem Namen auf den Markt. | Einstufung, Risikomanagement, Daten-Governance, technische Dokumentation, Konformität, Registrierung und Post-Market-Monitoring. |
| Betreiber | Unternehmen nutzt ein fremdes KI-System im eigenen beruflichen Prozess. | Nutzung nach Anleitung, geeignete Eingabedaten, geschulte menschliche Aufsicht, Monitoring, Logs, Information Betroffener und Meldung von Risiken. |
| Importeur oder Händler | Unternehmen bringt Systeme aus Drittstaaten in der EU in Verkehr oder vertreibt sie. | Prüfung, ob Anbieterpflichten, Dokumentation und Kennzeichnungen vorhanden sind. |
| Unternehmen wird selbst zum Anbieter | System wird wesentlich verändert, Zweck geändert oder unter eigenem Namen bereitgestellt. | Möglicher Rollenwechsel mit deutlich umfangreicheren Pflichten. |
Ein Unternehmen kann unbemerkt vom Betreiber zum Anbieter werden, wenn es ein System wesentlich verändert, den vorgesehenen Zweck verändert oder es unter eigener Marke bereitstellt. Deshalb müssen Anpassungen, Fine-Tuning, Integrationen und Zweckänderungen dokumentiert werden.
Welche Pflichten gelten bei Hochrisiko-KI?
Pflichten des Anbieters
Anbieter von Hochrisiko-KI müssen unter anderem sicherstellen:
- kontinuierliches Risikomanagement,
- geeignete Daten und Daten-Governance,
- technische Dokumentation,
- automatische Protokollierung und Nachvollziehbarkeit,
- klare Informationen und Gebrauchsanweisungen für Betreiber,
- wirksame menschliche Aufsicht,
- Genauigkeit, Robustheit und Cybersecurity,
- Qualitätsmanagement, Konformitätsbewertung und gegebenenfalls CE-Kennzeichnung,
- Registrierung und Post-Market-Monitoring,
- Meldung schwerwiegender Vorfälle.
Pflichten des Betreibers
Unternehmen, die Hochrisiko-KI einsetzen, müssen nach Artikel 26 insbesondere:
- das System entsprechend der Gebrauchsanweisung verwenden,
- menschliche Aufsicht an Personen mit Kompetenz, Schulung, Befugnis und Unterstützung übertragen,
- unter eigener Kontrolle stehende Eingabedaten auf Relevanz und Repräsentativität prüfen,
- den Betrieb überwachen und bei Risiken die Nutzung gegebenenfalls aussetzen,
- schwerwiegende Vorfälle melden,
- automatisch erzeugte Logs grundsätzlich mindestens sechs Monate aufbewahren, soweit sie unter eigener Kontrolle stehen,
- Arbeitnehmervertretungen und betroffene Beschäftigte vor einem Hochrisiko-Einsatz am Arbeitsplatz informieren,
- betroffene Personen informieren, wenn eine Anhang-III-KI Entscheidungen über sie trifft oder unterstützt,
- mit zuständigen Behörden zusammenarbeiten.
Grundrechte-Folgenabschätzung
Bestimmte öffentliche Stellen und einzelne Betreiber wesentlicher Dienste müssen vor dem Einsatz bestimmter Hochrisiko-KI zusätzlich eine Grundrechte-Folgenabschätzung durchführen. Diese Pflicht ist nicht mit der Datenschutz-Folgenabschätzung identisch, kann aber mit ihr abgestimmt werden.
Hochrisiko-Verdacht? Jetzt nicht im Gesetzestext stecken bleiben
Der erste sinnvolle Schritt ist eine saubere Bestandsaufnahme: Tool, Zweck, betroffene Menschen, Daten, Entscheidungswirkung und menschliche Kontrolle. Der kostenlose Selbstcheck zeigt dir, welche Themen du als Nächstes vertiefen solltest.
Kostenlosen Selbstcheck starten Passende Branchenlösung wählen
Human Oversight bei Hochrisiko-KI
Human Oversight bedeutet nicht, dass irgendwo ein Mensch im Organigramm steht. Die Aufsicht muss praktisch funktionieren. Verantwortliche Personen müssen die KI verstehen, Ergebnisse kritisch bewerten, Warnzeichen erkennen und bei Bedarf eingreifen können.
Wirksame menschliche Kontrolle erfordert:
- ausreichende Kompetenz und Schulung,
- Zugriff auf relevante Informationen und Systemgrenzen,
- Zeit und organisatorische Unterstützung für echte Prüfung,
- Befugnis, Ergebnisse zu verwerfen oder das System zu stoppen,
- klare Eskalationswege,
- Dokumentation von Prüfung, Übersteuerung und finaler Entscheidung.
Typische Schein-Kontrolle
- Der Mensch kennt die Bewertungskriterien der KI nicht.
- Das Ergebnis wird aus Zeitdruck fast immer übernommen.
- Es gibt keine Möglichkeit zur Korrektur oder Übersteuerung.
- Die verantwortliche Person wurde nicht geschult.
- Nur das Endergebnis ist sichtbar, nicht die relevanten Eingaben oder Grenzen.
- Niemand dokumentiert, wann und warum eine Empfehlung verworfen wurde.
Eine praktische Gesamtstruktur für KI-Inventar, Risiko, Dokumentation und Human Oversight bietet die AI Act Checkliste 2026.
AI-Act-Fristen für Risikoklassen und Hochrisiko-KI
| Datum | Was gilt oder ist derzeit vorgesehen? | Bedeutung für Unternehmen |
|---|---|---|
| 1. August 2024 | Der EU AI Act ist in Kraft getreten. | Beginn der gestaffelten Einführung. |
| 2. Februar 2025 | Verbote bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz wurden anwendbar. | Verbotene Einsätze stoppen und Mitarbeitende für KI-Nutzung qualifizieren. |
| 2. August 2025 | Governance- und GPAI-Regeln wurden weitgehend anwendbar. | Besonders relevant für Anbieter allgemeiner KI-Modelle und Akteure der Wertschöpfungskette. |
| 2. August 2026 | Viele allgemeine Vorschriften und Transparenzpflichten werden anwendbar. | Chatbots, Deepfakes, Kennzeichnung und Organisationsprozesse prüfen. |
| 2. Dezember 2027 | Nach der politischen Einigung zum AI Omnibus sollen Regeln für bestimmte Anhang-III-Hochrisikosysteme gelten. | Recruiting, Bildung, Biometrie, kritische Infrastruktur, Migration und weitere sensible Anwendungen vorbereiten. |
| 2. August 2028 | Nach der politischen Einigung sollen Regeln für Hochrisiko-KI in regulierten Produkten greifen. | Produktanbieter müssen Konformität, Dokumentation und technische Standards rechtzeitig aufbauen. |
KI-Inventar, Verträge, Datenqualität, Rollen, Human Oversight, Dokumentation, Lieferantenprüfung und technische Anpassungen lassen sich nicht wenige Wochen vor dem Stichtag seriös aufbauen. Außerdem gelten Datenschutz, Arbeitsrecht, Produktsicherheit, Antidiskriminierung und bereits aktive AI-Act-Pflichten unabhängig von späteren Hochrisiko-Terminen.
AI Act Risikoklassen in neun Schritten richtig bestimmen
Auch eingebettete KI-Funktionen in HR-Software, CRM, Analyseplattformen, Medizinsoftware, Sicherheitssystemen und Cloud-Diensten dokumentieren.
Nicht nur „KI im Recruiting“, sondern präzise: „analysiert Lebensläufe und erstellt eine Rangliste für die Vorauswahl“.
Anbieter, Betreiber, Importeur, Händler oder möglicher Anbieter durch wesentliche Änderung?
Vor der Hochrisiko-Prüfung kontrollieren, ob der Einsatz nach Artikel 5 bereits unzulässig sein könnte.
Ist die KI ein Produkt oder eine Sicherheitskomponente mit externer Konformitätsbewertung?
Biometrie, Infrastruktur, Bildung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration oder Justiz?
Nur enge Verfahrensaufgabe, vorbereitende Funktion oder echte Verbesserung einer abgeschlossenen menschlichen Arbeit? Profiling ausschließen.
Wer ist betroffen? Welche Nachteile sind möglich? Wer prüft, übersteuert und verantwortet?
Eine neue Funktion, Integration, Zielgruppe oder Zweckänderung kann die Risikoklasse verändern.
- Systemname, Version und Anbieter
- konkreter Einsatzzweck
- betroffene Personen und Entscheidungen
- verarbeitete Datenarten
- Rolle des eigenen Unternehmens
- Prüfung Artikel 5, Artikel 6, Anhang I und Anhang III
- Begründung für die Einstufung
- Human-Oversight-Prozess
- verantwortliche Person und Freigabedatum
- Termin der nächsten Überprüfung
Die häufigsten Fehler bei der Einordnung der AI Act Risikoklassen
- Die Marke statt des Zwecks bewerten: „Wir nutzen nur ChatGPT“ beantwortet nicht, wofür es eingesetzt wird.
- Die gesamte Branche pauschal als Hochrisiko einstufen: Nicht jede KI bei einer Bank, Schule oder Arztpraxis ist Hochrisiko-KI.
- Nur vollautomatische Entscheidungen betrachten: Auch KI, die Entscheidungen wesentlich unterstützt oder vorprägt, kann erfasst sein.
- Human Oversight nur auf Papier vorsehen: Kontrolle muss kompetent, wirksam und dokumentierbar sein.
- Profiling übersehen: Bei Profiling natürlicher Personen greift die Ausnahme aus Artikel 6 Absatz 3 nicht.
- Einzelne Softwarefunktionen nicht erfassen: Hochrisiko-KI kann als unscheinbares Modul in einer größeren Plattform stecken.
- Zweckänderungen ignorieren: Ein ursprünglich harmloses Tool kann durch neue Nutzung in einen sensiblen Bereich rutschen.
- Nur auf den Anbieter vertrauen: Betreiber müssen die eigene Nutzung, Daten und menschliche Kontrolle selbst prüfen.
- Spätere Fristen als Freifahrtschein verstehen: Andere Gesetze und bereits geltende AI-Act-Pflichten greifen schon heute.
- Keine Begründung dokumentieren: Auch die Einschätzung „nicht Hochrisiko“ sollte nachvollziehbar begründet sein.
Bei Verstößen können erhebliche Sanktionen drohen. Die Einordnung findest du auf der Seite AI Act Strafen und Bußgelder 2026.
FAQ zu AI Act Risikoklassen 2026
Welche vier Risikoklassen gibt es im EU AI Act?
Die EU-Kommission stellt den AI Act in vier Risikostufen dar: unannehmbares Risiko, hohes Risiko, Transparenzrisiko sowie minimales oder kein Risiko. Rechtlich werden die Pflichten über unterschiedliche Artikel und Anhänge konkretisiert.
Was ist Hochrisiko-KI?
Hochrisiko-KI ist ein KI-System, das entweder als sicherheitsrelevanter Teil eines regulierten Produkts eingestuft wird oder für einen ausdrücklich in Anhang III genannten sensiblen Zweck eingesetzt wird. Dazu gehören bestimmte Anwendungen in Recruiting, Bildung, Kreditwürdigkeit, Biometrie, Infrastruktur, Migration und Justiz.
Ist jede KI im Recruiting Hochrisiko?
Nein. Eine reine Textunterstützung für Stellenanzeigen ist anders zu bewerten als ein System, das Bewerbungen analysiert, Kandidaten filtert, rankt oder bewertet. Entscheidend sind Funktion, Einfluss auf Entscheidungen und konkrete Nutzung.
Ist ChatGPT ein Hochrisiko-KI-System?
ChatGPT ist nicht pauschal Hochrisiko-KI. Eine konkrete Anwendung, die auf einem allgemeinen Modell basiert, kann jedoch Hochrisiko sein, wenn sie beispielsweise Bewerber bewertet oder Kreditwürdigkeit beeinflusst.
Ist ein Chatbot Hochrisiko-KI?
Ein allgemeiner Kundenservice-Chatbot ist normalerweise nicht allein deshalb Hochrisiko. Häufig greifen jedoch Transparenzpflichten, damit Menschen wissen, dass sie mit KI kommunizieren. Ein Chatbot, der sensible Entscheidungen trifft, muss gesondert bewertet werden.
Ist KI in einer Arztpraxis automatisch Hochrisiko?
Nein. Termintexte oder interne Formulierungshilfen sind anders zu bewerten als Diagnoseassistenz, medizinische Triage oder KI in einem regulierten Medizinprodukt. Gesundheitsdaten und Datenschutz bleiben unabhängig von der Risikoklasse sensibel.
Wann gilt eine Ausnahme nach Artikel 6 Absatz 3?
Eine Ausnahme kann möglich sein, wenn ein Anhang-III-System keine erhebliche Gefahr erzeugt und Entscheidungen nicht wesentlich beeinflusst, etwa weil es nur eine enge Verfahrensaufgabe oder eine vorbereitende Funktion erfüllt. Bei Profiling natürlicher Personen greift diese Ausnahme nicht.
Reicht menschliche Kontrolle aus, damit eine KI nicht Hochrisiko ist?
Nein. Human Oversight ist ein wichtiger Faktor, beseitigt aber nicht automatisch die Hochrisiko-Einstufung. Die Kontrolle muss tatsächlich wirksam sein und der konkrete Anwendungsfall bleibt entscheidend.
Welche Pflichten hat ein Unternehmen als Betreiber von Hochrisiko-KI?
Betreiber müssen das System ordnungsgemäß nutzen, geschulte menschliche Aufsicht sicherstellen, Eingabedaten prüfen, den Betrieb überwachen, Logs aufbewahren, Risiken und Vorfälle melden sowie betroffene Personen oder Beschäftigte in bestimmten Fällen informieren.
Ab wann gelten die Hochrisiko-Regeln?
Nach dem aktuellen Stand der politischen Einigung zum AI Omnibus nennt die EU-Kommission den 2. Dezember 2027 für bestimmte Anhang-III-Systeme und den 2. August 2028 für Hochrisiko-KI in regulierten Produkten. Die endgültige geänderte Rechtsfassung sollte weiter beobachtet werden.
Müssen auch kleine Unternehmen die Risikoklasse prüfen?
Ja. Die Einstufung hängt nicht allein von der Unternehmensgröße ab. Auch KMU, Selbstständige oder kleine Agenturen können KI in sensiblen Prozessen einsetzen. Vereinfachungen können den Aufwand reduzieren, ersetzen aber nicht die grundlegende Prüfung.
Was sollte ich tun, wenn die Einstufung unklar ist?
Dokumentiere zunächst Tool, Zweck, Daten, betroffene Personen, Entscheidungswirkung und menschliche Kontrolle. Prüfe anschließend Artikel 5, Artikel 6, Anhang I und Anhang III. Bei sensiblen oder grenzwertigen Anwendungen sollte spezialisierter rechtlicher und technischer Rat eingeholt werden.
Welche AI-Act-Pflichten gelten für deine KI-Nutzung?
Starte mit dem kostenlosen Selbstcheck, wenn du eine schnelle Orientierung brauchst. Für HR, Finanzen, Medizin, Medizintechnik, Behörden oder kritische Infrastruktur findest du anschließend spezialisierte Branchenlösungen.
Offizielle Quellen zu AI Act Risikoklassen und Hochrisiko-KI
- Europäische Kommission: AI Act, Risikostufen und aktueller Zeitplan
- AI Act Service Desk: Artikel 6 – Einstufung von Hochrisiko-KI
- AI Act Service Desk: Anhang III – Hochrisiko-Anwendungsbereiche
- AI Act Service Desk: Artikel 26 – Pflichten von Betreibern
- AI Act Service Desk: Artikel 14 – Human Oversight
- EU-Kommission: Entwurf der Leitlinien zur Hochrisiko-Einstufung 2026
Rechtlicher Hinweis: Diese Seite dient der allgemeinen Orientierung und ersetzt keine individuelle Rechtsberatung, technische Konformitätsbewertung, Datenschutzprüfung oder verbindliche Einstufung eines konkreten KI-Systems. Bei Hochrisiko-Verdacht, regulierten Produkten oder Entscheidungen mit erheblichen Auswirkungen auf Menschen sollte qualifizierter fachlicher Rat eingeholt werden.