Allgemeines
Mit Inkrafttreten weiterer Regelungen der Verordnung (EU) 2024/1689 („EU AI Act“) am 2. August 2026 gelten erstmals umfassende Transparenzpflichten für zahlreiche Unternehmen, die Künstliche Intelligenz entwickeln, vertreiben oder im Geschäftsalltag einsetzen.
Betroffen sind nicht nur Anbieter von KI-Systemen, sondern insbesondere auch Unternehmen, die KI gestützte Kommunikationslösungen, generative KI-Anwendungen, Chatbots, oder virtuelle Assistenten einsetzen.
Die Transparenzpflichten verfolgen das Ziel, Nutzern eine informierte Entscheidung über den Umgang mit KI-Systemen zu ermöglichen und künstlich erzeugte Inhalte erkennbar zu machen.
Unternehmen sollten ihre eingesetzten KI-Anwendungen kurzfristig identifizieren, bewerten und ihre Compliance-Prozesse entsprechend anpassen.
Hintergrund
Der EU AI Act schafft erstmals einen einheitlichen Rechtsrahmen für Entwicklung, Bereitstellung und Nutzung von Künstlicher Intelligenz innerhalb der Europäischen Union.
Während einzelne Vorschriften bereits seit Februar 2025 gelten, treten die weiteren Regelungen schrittweise in Kraft. Seit dem 02.08.2026 sind insbesondere die Transparenzpflichten nach Art. 50 AI Act verbindlich.
Diese Pflichten gelten unabhängig davon, ob Unternehmen eigene KI-Systeme entwickeln oder auf marktgängige Anwendungen wie ChatGPT, Microsoft Copilot, Google Gemini oder vergleichbare Lösungen zurückgreifen.
Welche Unternehmen sind betroffen?
Die neuen Regelungen betreffen insbesondere Unternehmen,
die KI-Systeme entwickeln oder vertreiben (Provider),
die KI-Systeme im eigenen Unternehmen einsetzen (Deployer),
die KI in der Kundenkommunikation verwenden,
die Marketing- oder Kommunikationsinhalte mittels generativer KI erstellen,
die KI-gestützte Service-, Support- oder Vertriebslösungen einsetzen,
die KI im Personalbereich oder Recruiting verwenden.
Die praktische Reichweite der Vorschriften ist erheblich. Bereits der Einsatz eines KI-Chatbots auf der Unternehmenswebsite kann Transparenzpflichten auslösen.
Die wichtigsten Fallkonstellationen sind die Folgenden:
Offenlegung der Interaktion mit einem KI-System
Personen müssen grundsätzlich darüber informiert werden, wenn sie mit einem KI-System kommunizieren. Dies betrifft beispielsweise den Einsatz von
Chatbots
virtuellen Assistenten
KI-Telefonsystemen
automatisierten Supportsystemen
KI-gestützter Kundenkommunikation.
Die Information muss klar, verständlich und rechtzeitig erfolgen, sodass der Nutzer erkennt, dass keine menschliche Kommunikation stattfindet.
Kennzeichnung KI-generierter Inhalte
Wer Bilder, Audio-, Video- oder vergleichbare Inhalte mittels KI erzeugt oder wesentlich verändert und veröffentlicht, muss diese grundsätzlich als KI-generiert oder KI-manipuliert kenntlich machen.
Hierdurch soll insbesondere der Gefahr von Täuschungen im digitalen Umfeld begegnet werden.
Darüber hinaus verpflichtet der AI Act Anbieter bestimmter KI-Systeme dazu, technische Maßnahmen vorzusehen, die eine maschinelle Erkennung künstlich erzeugter Inhalte ermöglichen.
Transparenzpflichten bei Deepfakes
Besondere Anforderungen gelten für sogenannte Deepfakes. Wer Bild-, Audio- oder Videoinhalte veröffentlicht, die mittels KI täuschend echt verändert oder erzeugt wurden, muss deren künstlichen Ursprung grundsätzlich immer offenlegen.
Die Offenlegungspflicht gilt unabhängig davon, ob die Inhalte kommerziell oder unentgeltlich verbreitet werden.
Veröffentlichung KI-generierter Texte
Wer vollständig oder überwiegend KI-generierte Texte veröffentlicht, die Informationen zu Angelegenheiten von öffentlichem Interesse enthalten, muss deren KI-Ursprung offenlegen, sofern keine angemessene menschliche redaktionelle Kontrolle erfolgt ist. Die Regelung soll insbesondere der Verbreitung manipulativer oder irreführender Inhalte entgegenwirken.
Die Regelung gilt aber grundsätzlich nur für Texte zu Angelegenheiten von öffentlichem Interesse, die ohne angemessene menschliche Kontrolle veröffentlicht werden. Grundsätzlich nicht betroffen sind daher technische Produktbeschreibungen oder sonstige einfache Werbetexte oder Übersetzungen. Der Einsatz von KI-Software als Arbeitswerkzeug ist daher auch weiterhin ohne eine gesonderte Kennzeichnung möglich.
Emotionserkennung und biometrische Kategorisierung
Unternehmen, die Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzen, müssen betroffene Personen grundsätzlich vor oder während der Nutzung hierüber informieren. Je nach Anwendungsbereich können daneben weitere datenschutz- und arbeitsrechtliche Anforderungen bestehen.
Praktischer Handlungsbedarf
Unternehmen sollten kurzfristig prüfen, ob Transparenzpflichten nach dem EU AI Act ausgelöst werden. Insbesondere empfehlen sich folgende Maßnahmen:
KI-Inventarisierung
Erfassung sämtlicher im Unternehmen eingesetzter KI-Anwendungen.
Risikoanalyse
Prüfung, welche Anwendungen Transparenzpflichten oder weitere Anforderungen des EU AI Act auslösen.
Anpassung externer Kommunikation
Überarbeitung von
Webseiten,
Chatbots,
Kundenportalen,
Marketingmaßnahmen,
Social-Media-Aktivitäten.
Erforderlichenfalls sind entsprechende Transparenzhinweise aufzunehmen.
Interne Governance
Einführung oder Aktualisierung
einer KI-Richtlinie
interner Freigabeprozesse
Dokumentationspflichten
Verantwortlichkeiten für KI-Systeme
Schulung der Mitarbeiter
Mitarbeiter sollten über den rechtssicheren Einsatz generativer KI sowie über die neuen Transparenzanforderungen informiert werden.
Mögliche Sanktionen
Verstöße gegen die Transparenzpflichten können erhebliche finanzielle und regulatorische Folgen nach sich ziehen.
Neben empfindlichen Bußgeldern drohen insbesondere
behördliche Anordnungen
Untersagungsverfügungen
Reputationsschäden
Haftungsrisiken
datenschutzrechtliche Folgemaßnahmen
Die Einhaltung der Transparenzpflichten sollte daher Bestandteil des unternehmensweiten Compliance-Managements sein.
Fazit
Unternehmen sollten die Umsetzung der Transparenzpflichten nicht isoliert betrachten.
Der EU AI Act begründet ein umfassendes Compliance-Regime, das künftig insbesondere mit den Anforderungen der DSGVO, des Datenschutzrechts, des Arbeitsrechts, des Produkthaftungsrechts sowie bestehender Corporate-Governance-Strukturen verzahnt werden muss.
Eine frühzeitige Bestandsaufnahme der eingesetzten KI-Systeme sowie die Einführung geeigneter Governance-Prozesse reduzieren regulatorische Risiken und schaffen zugleich Rechtssicherheit für den produktiven Einsatz von KI im Unternehmen.
Dr. Michael Heinrich