ChatGPT und der EU AI Act: Welche Pflichten gelten bei beruflicher Nutzung?

ChatGPT ist ein text-ki / chatbot des Anbieters OpenAI (USA (OpenAI Ireland Ltd. für EU-Nutzer)). Wer das Tool beruflich einsetzt, ist im Sinne des EU AI Act in aller Regel Betreiber – und damit von einem überschaubaren, aber verbindlichen Pflichtenkreis betroffen. Diese Seite zeigt konkret, was das für dich bedeutet.

Kurz gesagt

• Deine Rolle: Du bist in der Regel Betreiber ("Deployer"). Anbieter des GPAI-Modells ist OpenAI.
• Kennzeichnung: Texte, die du unverändert veröffentlichst, sind Deepfake-frei, aber bei Chatbots im Kundenkontakt greift die Offenlegungspflicht nach Art. 50 Abs. 1.
• Größtes Risiko: Eingaben können je nach Tarif zum Training genutzt werden. In den kostenlosen und Plus-Tarifen ist Training standardmäßig aktiv und muss aktiv abgeschaltet werden; Team-, Enterprise- und API-Zugänge trainieren…
• Seit wann: Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026.

Wofür ChatGPT typischerweise genutzt wird

In der Praxis begegnet uns ChatGPT vor allem in diesen Situationen:

• E-Mails und Angebote formulieren
• Blogtexte und Produkttexte entwerfen
• Protokolle zusammenfassen
• Code und Formeln erzeugen
• Kundenanfragen vorbeantworten

Entscheidend ist nicht das Tool selbst, sondern was mit dem Ergebnis passiert. Ein Entwurf, der nur intern gelesen wird, ist rechtlich etwas völlig anderes als ein Text, der veröffentlicht wird oder in eine Entscheidung über einen Menschen einfließt.

Datenschutz: der Punkt, an dem es meistens klemmt

Eingaben können je nach Tarif zum Training genutzt werden. In den kostenlosen und Plus-Tarifen ist Training standardmäßig aktiv und muss aktiv abgeschaltet werden; Team-, Enterprise- und API-Zugänge trainieren standardmäßig nicht mit.

Auftragsverarbeitung: Ein Data Processing Addendum ist über das OpenAI-Portal abschließbar und für jede berufliche Nutzung mit Personenbezug nötig.

Die häufigste Stolperfalle

Ein Mitarbeiter kopiert eine Bewerbung, eine Kundenliste oder eine Krankmeldung ins Chatfenster. Das ist eine Übermittlung personenbezogener Daten an einen Auftragsverarbeiter – ohne AV-Vertrag und ohne Rechtsgrundlage ein DSGVO-Verstoß, völlig unabhängig vom AI Act.

Musst du Inhalte aus ChatGPT kennzeichnen?

Texte, die du unverändert veröffentlichst, sind Deepfake-frei, aber bei Chatbots im Kundenkontakt greift die Offenlegungspflicht nach Art. 50 Abs. 1.

Die Grundregel aus Artikel 50: Menschen müssen erkennen können, dass sie mit einer KI sprechen oder KI-generierte Inhalte vor sich haben. Bei Deepfakes – also Bild, Ton oder Video, das real wirkt, es aber nicht ist – gilt die Offenlegungspflicht seit dem 2. August 2026 ausnahmslos. Für Systeme, die schon vorher im Einsatz waren, lief eine Schonfrist bis zum 2. Dezember 2026.

Hinweis zu GPAI-Modellen

ChatGPT basiert auf einem General-Purpose-AI-Modell. Die besonderen GPAI-Pflichten treffen seit dem 2. August 2025 den Anbieter, nicht dich als Nutzer. Für dich ist nur relevant, dass du die Transparenzinformationen des Anbieters kennst und weitergeben kannst.

Fristen im Überblick

Pflicht	Gilt ab	Status
Art. 4 – KI-Kompetenz der Mitarbeiter	2. Februar 2025	gilt bereits
Art. 5 – Verbotene KI-Praktiken	2. Februar 2025	gilt bereits
Pflichten für GPAI-Modelle	2. August 2025	gilt bereits
Art. 50 – Transparenz und Kennzeichnung	2. August 2026	gilt bereits
Kennzeichnung von Bestandssystemen	2. Dezember 2026	Schonfrist läuft
Hochrisiko-Systeme nach Anhang III	2. Dezember 2027	verschoben, gilt ab
KI in regulierten Produkten (Anhang I)	2. August 2028	verschoben, gilt ab

Deine Checkliste für ChatGPT

• Prüfen, ob ein AV-Vertrag mit dem Anbieter besteht.
• In den Einstellungen das Training mit deinen Daten deaktivieren, soweit möglich.
• Schriftlich festlegen, welche Daten nicht eingegeben werden dürfen.
• Mitarbeiter kurz unterweisen und die Unterweisung dokumentieren – das erfüllt Artikel 4.
• Veröffentlichte KI-Inhalte auf Kennzeichnungspflicht prüfen.
• Das Tool in ein einfaches KI-Inventar eintragen.

Wie du jetzt konkret weitermachst

Der schnellste Weg zu einer belastbaren Einschätzung führt über den kostenlosen Selbstcheck. Du beantwortest 12 kurze Fragen zu deinem tatsächlichen KI-Einsatz und bekommst sofort eine persönliche Auswertung – mit den Handlungsfeldern, die wirklich zu dir passen, statt allgemeiner Hinweise.

In der Auswertung findest du außerdem die passenden Arbeitshefte zu deinen Handlungsfeldern, mit denen du die Umsetzung Schritt für Schritt erledigst. Und wenn du deine Punkte abgearbeitet hast, kannst du dir dort dein kostenloses Badge für die eigene Website holen.

Häufige Fragen

Ist die Nutzung von ChatGPT nach dem EU AI Act erlaubt?

Ja. ChatGPT ist kein verbotenes System nach Artikel 5. Erlaubt heißt aber nicht pflichtfrei: Als Betreiber musst du die KI-Kompetenz deiner Mitarbeiter sicherstellen und die Transparenzpflichten nach Artikel 50 einhalten.

Muss ich Texte oder Bilder aus ChatGPT kennzeichnen?

Texte, die du unverändert veröffentlichst, sind Deepfake-frei, aber bei Chatbots im Kundenkontakt greift die Offenlegungspflicht nach Art. 50 Abs. 1.

Brauche ich einen AV-Vertrag für ChatGPT?

Ein Data Processing Addendum ist über das OpenAI-Portal abschließbar und für jede berufliche Nutzung mit Personenbezug nötig. Sobald personenbezogene Daten verarbeitet werden, ist er nach Artikel 28 DSGVO Pflicht.

Ist ChatGPT ein Hochrisiko-KI-System?

In der normalen Anwendung nein. Hochrisiko wird es durch den Einsatzzweck: Wer ChatGPT zur Bewertung von Bewerbern, zur Kreditvergabe oder in vergleichbaren Bereichen nach Anhang III einsetzt, fällt unter die strengeren Regeln, die ab dem 2. Dezember 2027 greifen.

Passend dazu

• KI-Inventar erstellen: Die Liste, die der AI Act von dir verlangt
• KI-Richtlinie für Unternehmen 2026: Pflicht? Kostenlose Vorlage
• KI-Beauftragter 2026: Pflicht oder nur sinnvoll?
• KI-Chatbot kennzeichnen 2026: Pflicht, Hinweistexte und Beispiele
• EU AI Act für Steuerberater: Welche KI-Pflichten gelten in der Steuerkanzlei?
• AI Act Selbstcheck – in 12 Fragen zur Einschätzung
• KI-Kennzeichnungspflicht nach Artikel 50
• AI Act Risikoklassen: Ist deine KI Hochrisiko?

Stand: September 2026. Der Digital Omnibus ist am 27. Juli 2026 in Kraft getreten und hat die Hochrisiko-Pflichten verschoben. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026 unverändert. Dieser Beitrag ist eine allgemeine Orientierung und ersetzt keine Rechtsberatung im Einzelfall.