KI-Agenten im Unternehmen 2026: DSGVO, Haftung und EU AI Act – was jetzt gilt

KI-Agenten im Unternehmen 2026 können längst mehr als Texte formulieren. Sie lesen E-Mails, durchsuchen Dokumente, greifen auf Kundendaten zu, planen Arbeitsschritte und können selbstständig Nachrichten versenden, Termine buchen oder Bestellungen auslösen. Genau diese Handlungsfähigkeit macht sie nützlich – und rechtlich deutlich anspruchsvoller als einen gewöhnlichen KI-Chat.

KI-Agenten im Unternehmen 2026 mit EU-Schutzschild, verbundenen Geschäftssystemen und menschlicher Freigabe
KI-Agenten im Unternehmen: DSGVO, Haftung und EU-AI-Act-Pflichten richtig einordnen.

Stand dieses Ratgebers: 28. August 2026. Der AI Omnibus gilt seit dem 27. Juli 2026. Die Transparenzpflichten aus Artikel 50 des EU AI Act gelten seit dem 2. August 2026.

Die kurze Antwort

KI-Agenten sind im Unternehmen grundsätzlich erlaubt. Es gibt im EU AI Act keine eigene Risikoklasse nur für „Agenten“. Entscheidend ist, was der Agent tut, auf welche Daten und Systeme er zugreifen kann und ob er Menschen bewertet oder Entscheidungen vorbereitet. Unternehmen sollten Agenten nur mit begrenzten Rechten, klaren Freigabestufen, nachvollziehbaren Protokollen und einem funktionierenden Not-Aus einsetzen.

Inhaltsübersicht

Was ist ein KI-Agent?

Ein KI-Agent ist ein KI-System oder eine KI-gestützte Anwendung, die ein vorgegebenes Ziel in mehreren Schritten verfolgen kann. Dafür kann der Agent Informationen aufnehmen, einen Ablauf planen, Werkzeuge oder Schnittstellen verwenden und anschließend Aktionen ausführen.

Ein normaler Chatbot antwortet vor allem auf eine Eingabe. Ein Agent kann dagegen nach der Eingabe weiterarbeiten: Er durchsucht beispielsweise das Postfach, erkennt eine Kundenanfrage, öffnet das CRM, erstellt einen Antwortentwurf und legt eine Aufgabe für den Vertrieb an. Je nach Freigabe darf er die Antwort sogar selbst versenden.

System Typisches Verhalten Praktisches Risiko
KI-Chat Erzeugt auf Anfrage eine Antwort oder einen Entwurf. Falsche Inhalte, Datenschutz, ungeprüfte Übernahme.
Automatisierung Führt einen vorher festgelegten Wenn-dann-Ablauf aus. Fehlerhafte Regeln oder falsche Eingangsdaten.
KI-Agent Plant mehrere Schritte, nutzt Werkzeuge und handelt innerhalb seiner Rechte. Unbeabsichtigte Aktionen, Datenabfluss, Rechte-Missbrauch und schwer nachvollziehbare Entscheidungsketten.

Die Grenzen sind in der Praxis fließend. Viele Produkte werden als „Agent“ beworben, obwohl sie nur eine einfache Automatisierung enthalten. Umgekehrt können Funktionen in Copilot, Gemini, ChatGPT, CRM- oder Helpdesk-Systemen bereits agentisch arbeiten, ohne dass das Wort Agent prominent angezeigt wird.

Wichtig: Für die rechtliche Prüfung zählt nicht die Produktbezeichnung. Entscheidend sind die tatsächlichen Fähigkeiten, der Verwendungszweck, die verarbeiteten Daten und die möglichen Folgen einer Aktion.

Sind KI-Agenten im Unternehmen 2026 erlaubt?

Ja. Der EU AI Act verbietet KI-Agenten nicht pauschal. Viele Anwendungen können mit überschaubarem Risiko eingesetzt werden, wenn Zugriffe, Daten und Freigaben sauber geregelt sind.

Typische zulässige Einsatzmöglichkeiten sind:

  • interne Recherchen in freigegebenen Dokumenten,
  • Entwürfe für E-Mails, Angebote oder Zusammenfassungen,
  • Terminvorbereitung und Aufgabenverwaltung,
  • Sortierung allgemeiner Kundenanfragen,
  • Übertragung geprüfter Daten zwischen internen Systemen,
  • Erstellung von Berichten, die vor Verwendung menschlich freigegeben werden.

Kritischer wird der Einsatz, wenn ein Agent eigenständig Geld ausgeben, Verträge vorbereiten, sensible Daten auswerten, Beschäftigte überwachen, Bewerber auswählen oder Entscheidungen über Menschen beeinflussen kann.

Wer erst grundsätzlich prüfen möchte, welche Regeln für den eigenen Einsatz gelten, kann den kostenlosen EU-AI-Act-Selbstcheck nutzen.

KI-Agenten im Unternehmen und der EU AI Act

Der EU AI Act kennt keine eigene Kategorie „KI-Agent“. Ein autonom arbeitendes System ist deshalb nicht automatisch Hochrisiko-KI. Die Einordnung richtet sich nach dem vorgesehenen Zweck, dem Einsatzbereich, der Rolle des Unternehmens und den Auswirkungen auf betroffene Menschen.

Minimales oder begrenztes Risiko

Ein interner Agent, der allgemeine Texte zusammenfasst oder Aufgaben aus nicht sensiblen Daten erstellt, fällt häufig nicht unter besondere Hochrisiko-Pflichten. Trotzdem bleiben Datenschutz, IT-Sicherheit, Vertraulichkeit, Urheberrecht und interne Kontrolle relevant.

Transparenzrisiko

Kommuniziert ein KI-System direkt mit Menschen, greifen je nach Rolle und Gestaltung die Transparenzregeln aus Artikel 50. Nutzer sollen erkennen können, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Auch Deepfakes und bestimmte KI-generierte oder manipulierte Inhalte können besondere Hinweise benötigen.

Mögliche Hochrisiko-KI

Besonders genau geprüft werden müssen Agenten, die in sensiblen Bereichen eingesetzt werden und dort Entscheidungen vorbereiten oder beeinflussen. Dazu können unter anderem Beschäftigung, Bewerberauswahl, Bildung, Kreditwürdigkeit, bestimmte Versicherungs- und Versorgungsleistungen, kritische Infrastruktur, Migration oder medizinische Produkte gehören.

Nach dem seit 27. Juli 2026 geltenden AI-Omnibus-Zeitplan gelten die besonderen Regeln für bestimmte Hochrisiko-Einsatzbereiche nach Anhang III ab dem 2. Dezember 2027. Für Hochrisiko-KI, die in bestimmte regulierte Produkte integriert ist, gilt grundsätzlich der 2. August 2028. Die genaue Einordnung erklärt der Ratgeber zu AI-Act-Risikoklassen und Hochrisiko-KI.

Verbotene Anwendungen

Auch ein Agent darf keine nach Artikel 5 verbotene KI-Praxis ausführen. Kritisch sind beispielsweise bestimmte manipulative oder ausbeutende Verfahren, unzulässiges Social Scoring sowie bestimmte biometrische und emotionsbezogene Anwendungen. Eine Übersicht findest du unter Welche KI ist 2026 verboten?.

KI-Kompetenz gilt bereits

Artikel 4 des AI Act gilt bereits seit dem 2. Februar 2025 und wurde 2026 durch den AI Omnibus angepasst. Anbieter und Betreiber müssen weiterhin Maßnahmen treffen, welche die Entwicklung der KI-Kompetenz ihrer Mitarbeiter und anderer in ihrem Auftrag handelnder Personen unterstützen. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss nicht garantiert werden. Die Maßnahmen sollten aber zu System, Aufgabe, Vorkenntnissen und Risiko passen.

Wer einen Agenten freigibt, sollte Mitarbeiter deshalb nicht nur im Prompten schulen. Sie müssen auch Rechte, Datenverbote, Freigabegrenzen, Fehlermeldungen, Manipulationsrisiken und das Stoppen des Agenten verstehen. Weitere Hinweise bietet der Ratgeber zur KI-Kompetenz nach Artikel 4.

Betreiber oder Anbieter: Welche Rolle hat das Unternehmen?

Für die Pflichten nach dem AI Act ist entscheidend, welche Rolle ein Unternehmen tatsächlich übernimmt.

Rolle Typischer Fall Bedeutung
Betreiber Das Unternehmen nutzt einen fremden KI-Agenten unter eigener Verantwortung. Einsatz, Daten, Zugriffe, Mitarbeiterschulung und konkrete Nutzung müssen kontrolliert werden.
Anbieter Das Unternehmen entwickelt einen Agenten oder lässt ihn entwickeln und bringt ihn unter eigenem Namen in Verkehr oder nimmt ihn unter eigenem Namen in Betrieb. Es können weitergehende Pflichten für Entwicklung, Dokumentation, Transparenz und Systemgestaltung entstehen.
Rollenwechsel Ein fremdes System wird wesentlich verändert oder sein vorgesehener Zweck wird in einem relevanten Hochrisiko-Kontext geändert. Aus einem Betreiber können unter den Voraussetzungen des AI Act Anbieterpflichten entstehen.

Eine technische Konfiguration macht ein Unternehmen nicht automatisch zum Anbieter. Bei tiefgreifenden Änderungen, eigenem Branding, eigener Vermarktung oder neuen sensiblen Zwecken sollte die Rolle jedoch ausdrücklich geprüft werden.

Typische KI-Agenten im Unternehmen nach Risiko einordnen

Einsatz Typisches Risiko Sinnvolle Absicherung
Interne Recherche in freigegebenen Dokumenten Vertrauliche Inhalte und falsche Zusammenfassungen Nur Leserechte, Quellenanzeige, Rechteprüfung und menschliche Kontrolle
E-Mail-Agent erstellt Entwürfe Personenbezogene Daten und unpassende Aussagen Entwurfsmodus, Versand nur nach Freigabe, vertrauliche Daten begrenzen
Kundenservice-Agent antwortet selbstständig Falsche Zusagen, Datenschutz und Transparenz KI-Hinweis, Wissensgrenzen, Eskalation zu Menschen und Protokollierung
Agent erstellt und versendet Angebote Falsche Preise, Leistungszusagen oder Vertragsinhalte Verbindliche Vorlagen, Preisgrenzen und Freigabe vor Versand
Einkaufs- oder Zahlungsagent Ungewollte Bestellung, Betrug oder Budgetüberschreitung Betragsgrenzen, zugelassene Empfänger, Zwei-Personen-Freigabe und Widerrufsmöglichkeit
Recruiting-Agent sortiert oder bewertet Bewerber Diskriminierung, Beschäftigtendaten und mögliche Hochrisiko-Einstufung Spezialprüfung, DSFA, Bias-Kontrolle, Mitbestimmung und echte menschliche Entscheidung
Agent unterstützt medizinische oder finanzielle Entscheidungen Besonders sensible Daten und erhebliche Folgen für Menschen Fachliche und rechtliche Einzelfallprüfung vor jedem Produktiveinsatz

Wann müssen Menschen über einen KI-Agenten informiert werden?

Seit dem 2. August 2026 gilt Artikel 50 des AI Act. Für Anbieter von KI-Systemen, die direkt mit Menschen interagieren, bedeutet das grundsätzlich: Das System muss so gestaltet sein, dass die betroffene Person darüber informiert wird, dass sie mit KI interagiert – sofern dies nicht bereits offensichtlich ist.

Ein interner Recherche-Agent, den nur geschulte Mitarbeiter verwenden, braucht deshalb nicht automatisch auf jedem Bildschirm einen öffentlichen KI-Hinweis. Anders sieht es bei einem Agenten aus, der auf der Website, im Messenger, am Telefon oder per E-Mail selbstständig mit Kunden kommuniziert.

Ein klarer Hinweis kann beispielsweise lauten:

Hinweis: Du kommunizierst hier mit einem KI-gestützten Assistenten. Bei Bedarf kannst du die Anfrage an einen Menschen weitergeben lassen.

Der Hinweis sollte klar, rechtzeitig und für die betroffene Person leicht wahrnehmbar sein. Ein versteckter Satz ausschließlich in der Datenschutzerklärung reicht für eine direkte KI-Interaktion regelmäßig nicht als praktische Nutzerinformation.

Nicht jede vom Agenten vorbereitete E-Mail muss pauschal als KI-generiert markiert werden. Entscheidend sind Systemgestaltung, Rolle, Empfänger, Inhalt und menschliche Kontrolle. Ausführliche Beispiele findest du unter KI-Chatbot kennzeichnen 2026 und im Ratgeber zur KI-Kennzeichnungspflicht nach Artikel 50.

KI-Agenten und DSGVO: Welche Pflichten gelten?

Die DSGVO gilt unabhängig davon, ob personenbezogene Daten von einem Menschen, einer klassischen Software oder einem autonomen Agenten verarbeitet werden. Bei KI-Agenten ist die Prüfung besonders wichtig, weil sie Daten aus mehreren Quellen zusammenführen und an weitere Systeme übertragen können.

1. Zweck und Rechtsgrundlage festlegen

Dokumentiere konkret, wofür der Agent eingesetzt wird. „Effizienzsteigerung“ ist zu allgemein. Besser ist beispielsweise: „Kategorisierung eingehender Supportanfragen und Erstellung eines Antwortentwurfs“. Sobald personenbezogene Daten verarbeitet werden, braucht jeder Zweck eine tragfähige Rechtsgrundlage.

2. Datenflüsse vollständig erfassen

Unternehmen müssen wissen, welche Informationen der Agent erhält, wo sie gespeichert werden und an welche Dienste er sie weitergibt. Dazu gehören nicht nur der Modellanbieter, sondern auch Konnektoren, Plugins, APIs, Datenbanken, Protokollierungsdienste und Unterauftragnehmer.

3. Daten minimieren

Ein Agent sollte nur die Daten sehen, die er für die konkrete Aufgabe benötigt. Ein Termin-Agent braucht normalerweise keinen Zugriff auf das vollständige CRM. Ein E-Mail-Agent benötigt nicht automatisch alle Postfächer, Anhänge und historischen Unterhaltungen.

4. Verträge und Drittlandtransfers prüfen

Werden externe Anbieter als Auftragsverarbeiter eingesetzt, ist regelmäßig ein Vertrag zur Auftragsverarbeitung zu prüfen. Werden personenbezogene Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet oder zugänglich gemacht, müssen auch die Regeln für internationale Datenübermittlungen berücksichtigt werden.

5. Automatisierte Entscheidungen nach Artikel 22 prüfen

Artikel 22 DSGVO kann relevant werden, wenn ein Agent ausschließlich automatisiert eine Entscheidung trifft, die für eine Person rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Das kann etwa bei Ablehnungen, Scoring, Zugangsentscheidungen oder bestimmten Personalprozessen der Fall sein.

Ein Mensch im Prozess löst das Problem nicht automatisch. Die Kontrolle muss tatsächlich wirksam sein: Die verantwortliche Person muss genügend Informationen, Zeit, Kompetenz und Befugnis haben, um das Ergebnis zu hinterfragen und zu ändern.

6. Datenschutz-Folgenabschätzung prüfen

Eine Datenschutz-Folgenabschätzung kann erforderlich sein, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten von Menschen erzeugt. Das ist besonders bei sensiblen Daten, umfangreicher Überwachung, Profilbildung oder entscheidungsnahen Anwendungen zu prüfen.

7. Informationspflichten und Betroffenenrechte organisieren

Datenschutzhinweise müssen die tatsächliche Verarbeitung verständlich abbilden. Außerdem muss das Unternehmen Auskunft, Berichtigung, Löschung, Widerspruch und weitere Betroffenenrechte auch dann erfüllen können, wenn Daten in Agentenprotokollen, Erinnerungen oder angeschlossenen Diensten enthalten sind.

8. Löschung und Agentengedächtnis regeln

Viele Agenten speichern Verlauf, Kontext, Zwischenergebnisse oder langfristige Erinnerungen. Deshalb müssen Aufbewahrungsfristen nicht nur für die Ausgangsdaten, sondern auch für Protokolle, Vektordatenbanken, gespeicherte Zusammenfassungen und Agenten-Memory festgelegt werden.

Wer haftet für Fehler eines KI-Agenten?

Ein KI-Agent ist keine eigene juristische Person. Er übernimmt weder Verantwortung noch Haftung. Wenn ein Agent eine falsche Zusage versendet, vertrauliche Daten offenlegt, eine Bestellung auslöst oder einen Kunden fehlerhaft einordnet, verschwindet die Verantwortung des Unternehmens deshalb nicht.

Welche Ansprüche im Einzelfall entstehen, hängt vom konkreten Schaden und vom anwendbaren Recht ab. Relevant sein können insbesondere:

  • vertragliche Ansprüche gegenüber dem Unternehmen,
  • Schadensersatz wegen Datenschutzverstößen,
  • Haftung für unerlaubte Handlungen oder Organisationsfehler,
  • arbeits- und diskriminierungsrechtliche Folgen,
  • Produkthaftung gegenüber Hersteller oder Anbieter eines fehlerhaften Systems,
  • interne Regress- und Versicherungsfragen.

Der AI Act ist vor allem ein Regelwerk für Entwicklung, Bereitstellung und Einsatz von KI. Er beantwortet nicht jede zivilrechtliche Haftungsfrage. Die neue EU-Produkthaftungsrichtlinie erfasst ausdrücklich auch Software und KI-Systeme. Sie muss von den Mitgliedstaaten bis zum 9. Dezember 2026 umgesetzt werden und gilt für Produkte, die nach diesem Datum in Verkehr gebracht oder in Betrieb genommen werden.

Praxisregel: Je schwerer eine Aktion rückgängig zu machen ist, desto weniger Autonomie sollte der Agent erhalten. Zahlungen, Kündigungen, Ablehnungen, Vertragszusagen, Veröffentlichungen und Änderungen an produktiven Systemen sollten klare Freigaben benötigen.

Fünf Haftungsbremsen für den Alltag

  1. Entwurf vor Ausführung: Der Agent darf zunächst nur vorbereiten.
  2. Freigabegrenzen: Bestimmte Aktionen oder Beträge erfordern menschliche Zustimmung.
  3. Klare Vertretungsregeln: Festlegen, welche Aussagen und Transaktionen verbindlich sein dürfen.
  4. Nachvollziehbare Protokolle: Eingaben, Datenquellen, Werkzeugaufrufe, Freigaben und Ergebnisse angemessen dokumentieren.
  5. Not-Aus und Rückabwicklung: Aktionen müssen möglichst stoppbar, widerrufbar oder korrigierbar sein.

Die wichtigsten Sicherheitsrisiken bei KI-Agenten

Bei einem klassischen Chat kann eine falsche Antwort ärgerlich sein. Bei einem Agenten kann dieselbe falsche Annahme eine echte Aktion auslösen. Das Bundesamt für Sicherheit in der Informationstechnik und internationale Sicherheitsstellen empfehlen deshalb einen besonders sparsamen Umgang mit Rechten und Zugängen.

Prompt Injection über E-Mails, Webseiten oder Dokumente

Ein Agent kann in einer fremden E-Mail, Webseite oder Datei auf versteckte Anweisungen stoßen. Hält er diese Inhalte fälschlich für einen Arbeitsauftrag, kann er sein ursprüngliches Ziel verlassen, Daten preisgeben oder unerlaubte Werkzeuge verwenden.

Zu weit vergebene Rechte

Ein Agent mit Zugriff auf alle Postfächer, Datenbanken, Zahlungsfunktionen und Administrationsbereiche besitzt eine gefährliche Machtkonzentration. Rechte sollten nach dem Prinzip der geringsten Berechtigung vergeben werden: nur die Systeme, Daten und Aktionen, die für die konkrete Aufgabe tatsächlich nötig sind.

Datenabfluss durch Werkzeugaufrufe

Auch wenn das Sprachmodell selbst keine Daten trainiert, kann ein Agent Informationen über Schnittstellen, Suchdienste oder externe Aktionen weitergeben. Deshalb müssen ausgehende Verbindungen und erlaubte Empfänger kontrolliert werden.

Manipuliertes Agentengedächtnis

Werden falsche oder bösartige Informationen langfristig im Memory gespeichert, können sie spätere Entscheidungen beeinflussen. Erinnerungen sollten deshalb überprüfbar, begrenzt und bei Bedarf löschbar sein.

Kaskaden in Multi-Agenten-Systemen

Arbeiten mehrere Agenten zusammen, kann ein Fehler weitergereicht und verstärkt werden. Jeder Übergabepunkt braucht klare Datenregeln, Identitäten, Berechtigungen und Kontrollmechanismen.

Unkontrollierte Kosten und Endlosschleifen

Agenten können wiederholt APIs aufrufen, Aufgaben neu starten oder kostenpflichtige Aktionen auslösen. Zeit-, Mengen-, Budget- und Wiederholungslimits gehören deshalb zur technischen Grundabsicherung.

Checkliste: KI-Agenten im Unternehmen sicher einführen

  1. Ziel definieren: Eine konkrete Aufgabe statt eines offenen Auftrags wie „kümmere dich um den Vertrieb“ festlegen.
  2. Agent inventarisieren: Produkt, Modell, Anbieter, Version, Konnektoren, Datenquellen und Werkzeuge dokumentieren.
  3. Rolle klären: Prüfen, ob das Unternehmen Betreiber, Anbieter oder in einer Doppelrolle handelt.
  4. AI-Act-Risiko prüfen: Einsatzbereich, betroffene Personen, Transparenzpflichten, mögliche Hochrisiko-Einstufung und Verbote bewerten.
  5. DSGVO-Prüfung durchführen: Zweck, Rechtsgrundlage, Datenarten, Verträge, Drittlandtransfer, Löschung und Betroffenenrechte klären.
  6. DSFA prüfen: Bei voraussichtlich hohem Datenschutzrisiko vor dem Produktiveinsatz eine Folgenabschätzung durchführen.
  7. Agenten-Identität anlegen: Keine geteilten Administratorkonten oder persönlichen Mitarbeiterzugänge verwenden.
  8. Rechte minimieren: Lese-, Schreib-, Versand-, Zahlungs- und Administrationsrechte getrennt vergeben.
  9. Freigabestufen definieren: Hochwirksame oder irreversible Aktionen nur nach menschlicher Bestätigung zulassen.
  10. Grenzen einbauen: Budgets, Empfängerlisten, Datenmengen, Laufzeiten und Wiederholungen technisch begrenzen.
  11. Testumgebung nutzen: Agent zunächst mit Testdaten und ohne produktive Schreibrechte erproben.
  12. Angriffe testen: Prompt Injection, falsche Dokumente, manipulierte E-Mails, Rechteüberschreitungen und Systemausfälle simulieren.
  13. Protokollierung einrichten: Datenzugriffe, Werkzeugaufrufe, Entscheidungen, Freigaben, Fehler und Änderungen angemessen nachvollziehbar machen.
  14. Not-Aus festlegen: Zugangsdaten, Tokens und Schnittstellen schnell sperren können.
  15. Mitarbeiter schulen: Zuständigkeiten, Grenzen, Kontrollen und Vorfallmeldungen verständlich erklären.
  16. Regelmäßig neu prüfen: Neue Modelle, Konnektoren und Funktionen können das ursprüngliche Risiko erheblich verändern.

Welche KI-Pflichten betreffen dein Unternehmen?

Beantworte 12 kurze Fragen und erhalte sofort eine erste Orientierung zu Datenschutz, Transparenz, KI-Kompetenz und Risikoeinstufung.

Kostenlosen Selbstcheck starten

Kostenlos · anonym · ohne Anmeldung · Ergebnis sofort

Eine praktische Grundlage für interne Regeln findest du zusätzlich in der kostenlosen KI-Richtlinie für Unternehmen. Sie sollte für agentische Systeme um Rechte, Freigabestufen, Protokollierung, Not-Aus und erlaubte Aktionen ergänzt werden.

Die häufigsten Fehler bei KI-Agenten im Unternehmen

  • Der Produktname ersetzt die Prüfung: „Copilot“, „Assistent“ oder „Agent“ sagt wenig über das tatsächliche Risiko aus.
  • Zu viele Rechte von Anfang an: Der Agent erhält Zugriff auf vollständige Postfächer, Laufwerke oder Administrationsfunktionen.
  • Test mit echten Kundendaten: Personenbezogene oder vertrauliche Daten landen ungeprüft in einem Pilotprojekt.
  • Keine klare Verantwortlichkeit: IT, Datenschutz und Fachabteilung glauben jeweils, die andere Stelle habe den Agenten geprüft.
  • Human in the Loop nur auf dem Papier: Mitarbeiter bestätigen Ergebnisse routinemäßig, ohne sie tatsächlich beurteilen zu können.
  • Logs fehlen oder enthalten zu viel: Aktionen sind nicht nachvollziehbar oder Protokolle speichern unnötig sensible Daten.
  • Kein Stoppschalter: Bei einem Fehler kann niemand Tokens, Aktionen und Verbindungen sofort sperren.
  • Hinweis an Kunden fehlt: Ein öffentlich kommunizierender Agent wirkt wie ein menschlicher Mitarbeiter.
  • Verträge bleiben ungeprüft: Konnektoren und externe Dienste werden aktiviert, ohne Auftragsverarbeitung und Datenstandorte zu kontrollieren.
  • Einmal geprüft, für immer freigegeben: Neue Funktionen und Schnittstellen verändern den Datenzugriff, ohne dass eine neue Bewertung erfolgt.

FAQ: KI-Agenten im Unternehmen 2026

Sind KI-Agenten nach dem EU AI Act erlaubt?

Ja. KI-Agenten sind nicht pauschal verboten. Ihre Pflichten richten sich nach Einsatzzweck, Risikoklasse, Rolle des Unternehmens und möglichen Auswirkungen auf Menschen.

Ist jeder autonome KI-Agent Hochrisiko-KI?

Nein. Autonomie allein führt nicht automatisch zur Hochrisiko-Einstufung. Ein interner Recherche-Agent ist anders zu bewerten als ein System, das Bewerber auswählt, Kreditwürdigkeit beurteilt oder medizinische Entscheidungen beeinflusst.

Muss ein KI-Agent gekennzeichnet werden?

Bei einem direkt mit Menschen interagierenden KI-System muss grundsätzlich erkennbar sein, dass die Interaktion mit KI erfolgt, sofern dies nicht offensichtlich ist. Für rein interne Hintergrundprozesse besteht nicht automatisch dieselbe sichtbare Hinweispflicht.

Darf ein KI-Agent selbstständig E-Mails versenden?

Technisch ja. Unternehmen sollten jedoch festlegen, welche Empfänger, Inhalte und Aussagen erlaubt sind. Bei Angeboten, Beschwerden, sensiblen Daten oder verbindlichen Zusagen ist eine menschliche Freigabe meist die sicherere Lösung.

Darf ein KI-Agent Bestellungen oder Zahlungen auslösen?

Das kann technisch und rechtlich möglich sein, erzeugt aber erhebliche Betrugs-, Vertrags- und Haftungsrisiken. Erforderlich sind mindestens klare Betragsgrenzen, zugelassene Empfänger, starke Authentifizierung, Protokollierung und Freigaben für relevante Transaktionen.

Braucht ein KI-Agent eine Datenschutz-Folgenabschätzung?

Nicht automatisch. Eine DSFA ist zu prüfen, wenn die Verarbeitung voraussichtlich ein hohes Risiko für betroffene Personen erzeugt, beispielsweise durch sensible Daten, Profilbildung, Überwachung oder automatisierte Entscheidungen.

Wer haftet, wenn ein KI-Agent einen Fehler macht?

Der Agent selbst haftet nicht. Abhängig vom Einzelfall können das einsetzende Unternehmen, Anbieter, Hersteller oder weitere Beteiligte verantwortlich sein. Entscheidend sind Vertrag, Schaden, Ursache, Systemgestaltung, Organisationspflichten und das anwendbare Recht.

Reicht ein Mensch als letzte Freigabestufe aus?

Nur wenn die Kontrolle tatsächlich wirksam ist. Die Person muss das Ergebnis verstehen, genügend Zeit für die Prüfung haben und die Entscheidung ändern oder stoppen können.

Müssen Mitarbeiter für KI-Agenten geschult werden?

Artikel 4 verlangt Maßnahmen zur Unterstützung der KI-Kompetenz. Bei Agenten sollten Schulungen neben den allgemeinen KI-Grenzen insbesondere Zugriffsrechte, Freigaben, Manipulationsrisiken, Vorfälle und Not-Aus-Verfahren behandeln.

Braucht jedes Unternehmen einen KI-Beauftragten?

Nein. Der AI Act schreibt nicht pauschal eine Person mit dieser Stellenbezeichnung vor. Zuständigkeiten müssen trotzdem klar verteilt sein. Je nach Größe und Risiko kann eine zentrale Koordination sinnvoll sein.

Fazit: KI-Agenten kontrolliert handeln lassen

KI-Agenten im Unternehmen 2026 sind weder automatisch verboten noch automatisch Hochrisiko-KI. Sie benötigen aber mehr Kontrolle als ein gewöhnlicher Chat, weil aus einer falschen Antwort eine echte Handlung werden kann.

Der wichtigste Grundsatz lautet deshalb: Autonomie muss verdient werden. Ein neuer Agent sollte zunächst nur lesen und Entwürfe erstellen. Erst nach dokumentierten Tests darf er begrenzte Aktionen ausführen. Zahlungen, Vertragszusagen, Entscheidungen über Menschen und Änderungen an produktiven Systemen benötigen besonders starke Kontrollen.

Wer Zweck, Rolle, Datenflüsse, Rechte, Freigaben, Transparenz und Protokollierung sauber festlegt, kann KI-Agenten sinnvoll nutzen, ohne die Verantwortung an eine Maschine abzugeben.

Offizielle Quellen und weiterführende Informationen

Hinweis: Dieser Beitrag bietet allgemeine Informationen und praktische Orientierung. Er ersetzt keine Rechtsberatung, Datenschutzberatung, IT-Sicherheitsprüfung oder verbindliche Prüfung des konkreten Einzelfalls.


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert