ElevenLabs

ElevenLabs bietet KI‑gestützte Sprachsynthese, mit der Audiodateien automatisch erzeugt werden können. Als Anbieter ist ElevenLabs verpflichtet, synthetische Inhalte maschinenlesbar zu markieren – etwa durch Wasserzeichen oder Metadaten – sodass Nutzer die Herkunft technisch nachvollziehen können. Diese Kennzeichnungspflicht liegt ausschließlich beim Anbieter, nicht beim Anwender.
Für Anwender (Deployer) ergeben sich nach Art. 50 des EU‑AI‑Acts nur in bestimmten Fällen Offenlegungspflichten: Wenn das erzeugte Audio in einem Chatbot eingesetzt wird, muss klar erkennbar sein, dass die Stimme von einer KI stammt. Bei Deepfake‑Audios, die Personen oder Ereignisse fälschlich darstellen, ist eine deutliche Kennzeichnung als KI‑generiert erforderlich. Auch KI‑generierte oder -veränderte Texte zu Themen von öffentlichem Interesse, die veröffentlicht werden, müssen offengelegt werden, sofern keine menschliche redaktionelle Kontrolle besteht. Ein rein werbender Text, der mit ElevenLabs erstellt und anschließend von einer Person final bearbeitet wurde, muss in der Regel nicht als KI‑Text gekennzeichnet werden. Zusätzlich sollten Unternehmen prüfen, ob bei der Nutzung personenbezogene Daten verarbeitet werden und entsprechende DSGVO‑Konformität sicherstellen, etwa durch Einwilligungen oder Auftragsverarbeitungsverträge. Die Transparenzpflichten nach Art. 50 gelten ab dem 02.08.2026, während weitere Hochrisiko‑Regeln später in Kraft treten.