Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des europäischen AI Act. Seitdem begegnen Unternehmen sehr unterschiedlichen Aussagen: „Jedes KI-Bild braucht ein Label“, „KI-Texte müssen immer gekennzeichnet werden“ oder „Ein Hinweis im Impressum reicht aus“. Keine dieser Aussagen ist als pauschale Regel richtig. Entscheidend ist, welche Art von KI eingesetzt wird, welche Rolle das Unternehmen hat, welcher Inhalt erzeugt wurde und wie dieser Inhalt gegenüber Menschen verwendet wird.
1. Die Kurzantwort: Was muss ein Unternehmen seit August 2026 prüfen?
Für typische Website-, Marketing- und Kommunikationsanwendungen lässt sich Artikel 50 zunächst so einordnen:
| Anwendungsfall | Was ist praktisch zu prüfen? |
|---|---|
| KI-Chatbot spricht direkt mit Kunden | Nutzer müssen grundsätzlich erkennen, dass sie mit einem KI-System interagieren, sofern dies nicht bereits offensichtlich ist. |
| Realistisch wirkendes KI-Bild, Audio oder Video als Deepfake | Künstlicher beziehungsweise manipulierter Ursprung muss offengelegt werden. |
| KI-generierter Text informiert die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse | Offenlegung prüfen. Bei echter menschlicher Überprüfung oder redaktioneller Kontrolle und redaktioneller Verantwortung greift die in Artikel 50 genannte Ausnahme. |
| Offensichtliche illustrative 3D-Grafik | Nicht automatisch mit einem Deepfake gleichsetzen. Kontext und mögliche Täuschung prüfen. |
| KI korrigiert Grammatik oder unterstützt Standardbearbeitung | Nicht automatisch wie ein vollständig synthetisch erzeugter Inhalt behandeln. |
| KI-Assistent wird ausschließlich intern verwendet | Die öffentliche Kennzeichnungspflicht aus Artikel 50 ist nicht automatisch dieselbe; andere AI-Act-Pflichten können trotzdem relevant sein. |
2. Welche Rechtsgrundlage gilt?
Die zentrale Regelung befindet sich in Artikel 50 der Verordnung (EU) 2024/1689, dem europäischen AI Act.
Artikel 50 unterscheidet insbesondere:
- direkte Interaktion zwischen Menschen und KI-Systemen
- maschinenlesbare Kennzeichnung synthetischer Inhalte durch Anbieter
- Emotionserkennung und biometrische Kategorisierung
- Deepfakes
- bestimmte KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse
EUR-Lex: Verordnung (EU) 2024/1689 – AI Act
Für die praktische Auslegung sind zusätzlich die von der Europäischen Kommission am 20. Juli 2026 veröffentlichten Leitlinien relevant. Sie erläutern unter anderem, wann eine direkte KI-Interaktion vorliegt, wie Deepfakes einzuordnen sind und wie eine Offenlegung gestaltet werden sollte.
Europäische Kommission: Leitlinien zu den Transparenzpflichten
Zusätzlich steht ein Code of Practice zur Verfügung, der insbesondere die praktische Umsetzung der maschinenlesbaren Markierung und der Offenlegung bestimmter generierter Inhalte unterstützt.
Europäische Kommission: Code of Practice on Transparency of AI-generated Content
3. Provider oder Deployer: Warum diese Unterscheidung wichtig ist
Viele Missverständnisse entstehen dadurch, dass technische Pflichten des KI-Anbieters mit Pflichten des Unternehmens vermischt werden, das die KI lediglich verwendet.
| Rolle | Vereinfachtes Beispiel |
|---|---|
| Provider | Ein Unternehmen entwickelt oder lässt ein KI-System entwickeln und bringt es unter eigenem Namen oder eigener Marke auf den Markt oder in Betrieb. |
| Deployer | Ein Unternehmen setzt ein vorhandenes KI-System unter eigener Verantwortung für einen geschäftlichen Anwendungsfall ein. |
Ein Unternehmen, das ein vorhandenes generatives KI-System verwendet, um Marketingbilder oder Texte zu erstellen, wird deshalb nicht allein dadurch zum Provider des zugrunde liegenden Modells.
Diese Rollen sind besonders wichtig, weil Artikel 50 unterschiedliche Aufgaben vorsieht.
Provider generativer Systeme müssen beispielsweise bestimmte Ausgaben technisch in einem maschinenlesbaren Format kennzeichnen und erkennbar machen.
Deployern entstehen dagegen insbesondere Offenlegungspflichten bei Deepfakes und bestimmten Textpublikationen.
Maschinenlesbare Markierung des Providers und sichtbare Information für den Menschen sind daher zwei unterschiedliche Ebenen.
4. Wie muss eine erforderliche KI-Kennzeichnung praktisch aussehen?
Das ist einer der wichtigsten praktischen Punkte aus Artikel 50.
Die vorgeschriebenen Informationen müssen nach Artikel 50 Absatz 5 klar und unterscheidbar bereitgestellt werden – spätestens beim ersten Kontakt beziehungsweise der ersten Exposition gegenüber dem betreffenden Inhalt. Zusätzlich müssen die einschlägigen Anforderungen an Barrierefreiheit berücksichtigt werden.
Für eine sichtbare Offenlegung bedeutet das praktisch:
- nicht ausschließlich im Impressum verstecken
- nicht nur in allgemeinen AGB erwähnen
- nicht voraussetzen, dass ein Nutzer technische Metadaten ausliest
- den Hinweis dem betreffenden Inhalt oder der Interaktion eindeutig zuordnen
- verständlich formulieren
- bei Audio gegebenenfalls eine wahrnehmbare akustische Information verwenden
- bei visuellen Inhalten eine sichtbar wahrnehmbare Kennzeichnung einsetzen, wenn eine Offenlegung erforderlich ist
Die Europäische Kommission stellt ausdrücklich klar, dass ein Deployer bei einem kennzeichnungspflichtigen Deepfake nicht allein auf die vom Provider eingebettete maschinenlesbare Markierung vertrauen kann.
Praktische Formulierungsbeispiele
Je nach Sachverhalt können verständliche Hinweise beispielsweise lauten:
- „KI-generiertes Bild“
- „Dieses Bild wurde mit KI erzeugt.“
- „KI-generierte Darstellung – keine reale Aufnahme.“
- „Dieses Video enthält KI-generierte beziehungsweise manipulierte Inhalte.“
- „KI-generierte Stimme“
- „Dieser Inhalt wurde künstlich erzeugt oder manipuliert.“
Das sind redaktionelle Beispiele und keine gesetzlich vorgeschriebenen Wortlaute. Entscheidend ist, dass der Hinweis im konkreten Fall klar verständlich macht, was künstlich erzeugt oder manipuliert wurde.
5. KI-Chatbot: Was sollte ein Unternehmen praktisch anzeigen?
Artikel 50 Absatz 1 betrifft KI-Systeme, die direkt mit natürlichen Personen interagieren.
Der Nutzer soll grundsätzlich darüber informiert werden, dass er mit einem KI-System interagiert, sofern dies für eine angemessen informierte, aufmerksame und verständige Person nicht ohnehin offensichtlich ist.
Die Europäische Kommission stellt klar, dass die Information grundsätzlich von Beginn der ersten Interaktion an erfolgen soll.
Geeigneter Einstieg
Beispielsweise:
„Hallo, ich bin der KI-Assistent von Beispiel GmbH. Ich kann erste Fragen beantworten und Ihre Anfrage bei Bedarf an unser Team weiterleiten.“
Oder kürzer:
„KI-Assistent – automatische Antworten, bei Bedarf Übergabe an unser Team.“
Was sollte vermieden werden?
Problematisch wäre beispielsweise, wenn ein vollständig automatisiertes System unter einem menschlichen Namen auftritt und der Nutzer vernünftigerweise davon ausgehen kann, mit einer echten Mitarbeiterin oder einem echten Mitarbeiter zu sprechen.
Bei einer Übergabe sollte außerdem verständlich sein, wann der automatisierte Teil endet und ein Mensch übernimmt.
6. KI-Bilder, Audio und Video: Wann wird die sichtbare Kennzeichnung wichtig?
Für Bild-, Audio- und Videoinhalte ist besonders zu prüfen, ob ein Inhalt einen Deepfake im Sinne des AI Act darstellt.
Vereinfacht geht es um KI-generierte oder manipulierte Inhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen deutlich ähneln und fälschlicherweise authentisch oder wahr erscheinen können.
Bei solchen Inhalten muss ein Deployer offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Beispiele mit erhöhtem Kennzeichnungsbedarf
- eine reale Person scheint etwas zu sagen, was sie nie gesagt hat
- ein künstliches Foto wirkt wie die Aufnahme einer tatsächlich existierenden Veranstaltung
- ein realer Geschäftsführer wird in einer erfundenen Situation dargestellt
- eine synthetische Stimme klingt wie eine konkrete reale Person
- ein reales Gebäude oder Ereignis wird so verändert, dass die Darstellung als echte Dokumentation erscheinen kann
In diesen Situationen sollte eine erforderliche Offenlegung beim ersten Betrachten beziehungsweise Anhören wahrnehmbar sein.
Nur technische Metadaten reichen für diese Deployer-Offenlegung nicht aus.
Wo könnte der Hinweis stehen?
| Medium | Mögliche Umsetzung |
|---|---|
| Website-Bild | sichtbare Caption unmittelbar unter beziehungsweise beim Bild |
| Social-Media-Bild | sichtbarer Hinweis im Beitrag und bei Bedarf im Bild selbst |
| Video | sichtbarer Hinweis im Video beziehungsweise eindeutig vor oder beim Inhalt |
| Audio | wahrnehmbarer akustischer Hinweis oder eine andere eindeutig zugängliche Offenlegung |
| Artikel mit Deepfake-Medium | Hinweis direkt beim betreffenden Medium, nicht nur allgemein am Seitenende |
Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke sieht Artikel 50 eine besondere, erleichterte Form der Offenlegung vor, die die Darstellung beziehungsweise Nutzung des Werks nicht unangemessen beeinträchtigen soll.
7. Muss eine normale KI-Illustration im Unternehmensblog gekennzeichnet werden?
Gerade bei Unternehmensblogs ist diese Frage relevant.
Angenommen, ein Unternehmen verwendet eine eindeutig stilisierte 3D-Illustration: ein Geschäftsführer steht neben abstrakten Datenkarten und einem symbolischen KI-Assistenten. Die Szene behauptet nicht, eine reale Aufnahme eines Kunden oder Mitarbeiters zu sein.
Eine solche Illustration sollte nicht automatisch mit einem Deepfake gleichgesetzt werden.
Zu prüfen sind insbesondere:
- Sieht der Inhalt wie eine reale Dokumentation aus?
- Wird eine tatsächlich existierende Person nachgebildet?
- Wird eine reale Situation oder ein reales Ereignis vorgetäuscht?
- Kann das Publikum vernünftigerweise davon ausgehen, dass das Bild authentisch ist?
Ist die Darstellung eindeutig illustrativ und fiktional, ergibt sich daraus nicht automatisch dieselbe Offenlegungspflicht wie bei einem realistisch wirkenden Deepfake.
Ein Unternehmen kann sich trotzdem freiwillig für eine transparente redaktionelle Kennzeichnung entscheiden, beispielsweise:
„KI-generierte Illustration.“
Das kann eine sinnvolle eigene Content-Policy sein. Sie sollte aber nicht fälschlich mit der Aussage begründet werden, dass der AI Act ausnahmslos jede KI-generierte Illustration sichtbar so beschriften würde.
8. Wann müssen KI-generierte Texte gekennzeichnet werden?
Auch hier gilt: Nicht jeder Satz, bei dessen Formulierung ein KI-System geholfen hat, erhält automatisch eine Kennzeichnungspflicht.
Artikel 50 Absatz 4 erfasst insbesondere KI-generierte oder manipulierte Texte, die mit dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Fehlt eine einschlägige Ausnahme, muss offengelegt werden, dass der Text künstlich erzeugt oder manipuliert wurde.
Für Unternehmen kann das beispielsweise bei vollautomatisch publizierten Beiträgen zu politischen, gesellschaftlichen, regulatorischen, gesundheitlichen oder anderen Themen von öffentlichem Interesse relevant werden.
Welche Ausnahme ist für Unternehmensredaktionen besonders wichtig?
Artikel 50 sieht ausdrücklich eine Ausnahme vor, wenn:
- der KI-generierte Inhalt einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und
- eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Für einen Unternehmensblog bedeutet das: Ein KI-Entwurf, der anschließend wirklich fachlich geprüft, korrigiert und unter redaktioneller Verantwortung des Unternehmens veröffentlicht wird, ist anders einzuordnen als ein vollautomatisch generierter und automatisch publizierter Text.
9. Was bedeutet Human Review praktisch?
Ein Mitarbeiter, der lediglich auf „Veröffentlichen“ klickt, ist noch kein sinnvoller redaktioneller Kontrollprozess.
Bei einem professionellen Review sollte die zuständige Person den Inhalt tatsächlich beurteilen und ändern oder ablehnen können.
Je nach Thema sollte geprüft werden:
- Sind die zentralen Aussagen fachlich richtig?
- Sind Daten, Fristen und Produktinformationen aktuell?
- Existieren die verwendeten Quellen wirklich?
- Unterstützen die Quellen die konkrete Aussage?
- Wurden Personen, Kundenfälle, Studien oder Zahlen erfunden?
- Enthält der Beitrag rechtliche Aussagen, die eine separate Prüfung benötigen?
- Passt der Text zum tatsächlichen Angebot des Unternehmens?
- Sind verwendete KI-Bilder korrekt eingeordnet?
- Wer trägt die redaktionelle Verantwortung?
10. Praxischeck: Was sollten Unternehmen auf ihrer Website jetzt prüfen?
| Einsatz | Was jetzt prüfen? |
|---|---|
| KI-Chatbot | Wird beim ersten Kontakt klar, dass ein KI-System beteiligt ist? |
| KI-generierte Mitarbeiterbilder | Kann der Besucher glauben, dass es sich um echte Mitarbeiter handelt? |
| KI-generierte Kunden- oder Projektszenen | Werden fiktive Darstellungen möglicherweise als reale Referenz oder Dokumentation verstanden? |
| 3D-Illustrationen | Sind sie offensichtlich illustrativ oder könnten sie für eine reale Aufnahme gehalten werden? |
| KI-generierte Videos oder Stimmen | Liegt ein Deepfake beziehungsweise ein realistisch wirkender synthetischer Inhalt vor? |
| Blog und News | Werden Texte zu öffentlichen Themen automatisch veröffentlicht oder tatsächlich redaktionell geprüft? |
| Interne KI-Assistenten | Öffentliche Kennzeichnung und interne AI-Governance getrennt betrachten. |
Besonders kritisch: KI-Inhalt wird als Realität präsentiert
Ein Unternehmen sollte vermeiden, beispielsweise:
- eine KI-generierte Person als angeblichen echten Mitarbeiter darzustellen
- eine erfundene KI-Szene als tatsächliches Kundenprojekt erscheinen zu lassen
- eine manipulierte Aufnahme eines realen Menschen ohne erforderliche Offenlegung zu veröffentlichen
- vollautomatisch erzeugte öffentliche Nachrichten ohne erforderliche Transparenz zu publizieren
Hier überschneiden sich neben dem AI Act möglicherweise weitere Rechtsbereiche und allgemeine Fragen der Irreführung. Artikel 50 sollte deshalb nicht als einzige mögliche Rechtsgrundlage betrachtet werden.
11. So baut ein Unternehmen einen praktischen Kennzeichnungs-Workflow auf
Bei regelmäßiger KI-Nutzung sollte nicht jeder Mitarbeiter jedes Mal neu überlegen müssen, ob ein Hinweis erforderlich ist.
Ein einfacher Workflow kann so aussehen:
- KI-Anwendungsfall erfassen: Chat, Text, Bild, Audio, Video oder rein interne Unterstützung?
- Rolle klären: Provider, Deployer oder mehrere Rollen gleichzeitig?
- Zielgruppe bestimmen: Mitarbeiter, einzelne Kunden oder Öffentlichkeit?
- Inhalt einordnen: Standardbearbeitung, Illustration, synthetischer Inhalt oder möglicher Deepfake?
- Öffentliches Interesse prüfen: Informiert ein KI-generierter Text über eine Angelegenheit von öffentlichem Interesse?
- Human Review prüfen: Gibt es eine tatsächliche redaktionelle Kontrolle und Verantwortung?
- Transparenzmaßnahme bestimmen: Kein zusätzlicher Hinweis, Chat-Hinweis, sichtbares Label oder andere geeignete Offenlegung?
- Position festlegen: Hinweis spätestens bei der ersten Interaktion beziehungsweise Exposition eindeutig sichtbar oder hörbar machen.
- Freigabe dokumentieren: Verantwortliche Person und Prüfstatus nachvollziehbar halten.
- Frontend prüfen: Nach Veröffentlichung kontrollieren, ob der Hinweis für den Nutzer wirklich sichtbar und verständlich ist.
Was lässt sich davon automatisieren?
Gerade hier kann ein sinnvoller technischer Workflow helfen.
Beispielsweise können Unternehmen:
- bei generierten Medien die Herkunft intern speichern
- Content nach „AI-assisted“, „AI-generated“ und Freigabestatus organisieren
- bestimmte Inhaltstypen ohne Human Review technisch von der Veröffentlichung ausschließen
- für definierte Deepfake-Anwendungsfälle automatisch einen Hinweis ausgeben
- eine redaktionelle Freigabe vor Veröffentlichung erzwingen
- Verantwortliche und Freigabedatum protokollieren
- fehlende Labels oder Freigaben vor dem Publishing erkennen
Automatisiert werden sollte dabei der Prozess, nicht die rechtliche Beurteilung jedes Grenzfalls.
Nicht alles mit KI braucht dasselbe Label
Der AI Act führt seit dem 2. August 2026 konkrete Transparenzpflichten ein. Er sagt aber nicht: „Alles, was mit KI erstellt wurde, bekommt dieselbe sichtbare Kennzeichnung.“
Unternehmen sollten vielmehr strukturiert prüfen:
Welche KI wurde eingesetzt? Welche Rolle haben wir? Was sieht oder hört der Nutzer? Handelt es sich um eine direkte KI-Interaktion, einen Deepfake oder einen bestimmten KI-generierten Text? Gibt es Human Review? Und wenn eine Offenlegung erforderlich ist: Ist sie beim ersten Kontakt klar und wahrnehmbar?
Damit wird die Frage der KI-Kennzeichnung von einer unsicheren Einzelfallentscheidung zu einem kontrollierbaren Unternehmensprozess.
Häufige Fragen zur KI-Kennzeichnung nach dem AI Act
Muss jedes KI-generierte Bild sichtbar gekennzeichnet werden?
Nein. Artikel 50 sieht keine pauschale sichtbare Kennzeichnung jedes mit KI erzeugten Bildes vor. Für Unternehmen ist insbesondere zu prüfen, ob ein Bild einen Deepfake darstellt oder aufgrund seines Kontextes fälschlich als authentisch erscheinen kann. Davon zu unterscheiden ist die maschinenlesbare Kennzeichnungspflicht bestimmter Provider.
Wie kennzeichne ich einen Deepfake auf einer Website?
Wenn die Offenlegungspflicht greift, muss der künstliche beziehungsweise manipulierte Ursprung spätestens bei der ersten Exposition klar und unterscheidbar erkennbar sein. Bei einem Website-Bild kann beispielsweise eine unmittelbar zugeordnete sichtbare Caption wie „KI-generierte Darstellung“ oder „Dieses Bild wurde mit KI erzeugt“ verwendet werden. Der passende Wortlaut hängt vom konkreten Inhalt ab.
Reicht es, KI-Inhalte im Impressum zu erwähnen?
Nicht automatisch. Wenn nach Artikel 50 für einen konkreten Inhalt oder eine Interaktion eine Offenlegung erforderlich ist, muss die betroffene Person die Information spätestens beim ersten Kontakt beziehungsweise der ersten Exposition klar wahrnehmen können. Ein allgemeiner Hinweis an anderer Stelle ersetzt das nicht zwingend.
Reicht eine unsichtbare technische KI-Markierung im Bild?
Für die Offenlegungspflicht eines Deployers bei einem Deepfake nein. Die Europäische Kommission stellt ausdrücklich klar, dass dafür nicht allein auf die maschinenlesbare Markierung des Providers vertraut werden kann. Die Information muss für Menschen ohne spezielle technische Hilfsmittel wahrnehmbar sein.
Muss ein KI-Chatbot sagen, dass er KI ist?
KI-Systeme, die direkt mit natürlichen Personen interagieren, müssen grundsätzlich so gestaltet sein, dass die Person darüber informiert wird, dass sie mit einem KI-System interagiert, sofern dies nicht ohnehin offensichtlich ist. Nach den Leitlinien soll diese Information von Beginn der ersten Interaktion an klar und unterscheidbar sein.
Muss jeder mit ChatGPT erstellte Blogartikel als KI-generiert gekennzeichnet werden?
Nein. Artikel 50 enthält keine allgemeine Kennzeichnungspflicht für jeden KI-unterstützten Unternehmensartikel. Spezifisch erfasst werden unter anderem KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Bei echter menschlicher Überprüfung oder redaktioneller Kontrolle und bestehender redaktioneller Verantwortung sieht Artikel 50 eine Ausnahme von dieser Offenlegungspflicht vor.
Was bedeutet Human Review?
Ein Mensch sollte den Inhalt tatsächlich fachlich prüfen und die Möglichkeit haben, ihn zu korrigieren, abzulehnen oder nicht zu veröffentlichen. Bei professionellen Workflows sollten insbesondere Fakten, Quellen, rechtliche Aussagen und Übereinstimmung mit dem tatsächlichen Unternehmen geprüft werden.
Müssen alte KI-Inhalte rückwirkend gekennzeichnet werden?
Nach den aktuellen Leitlinien der Europäischen Kommission müssen Inhalte, die bereits vor dem 2. August 2026 erzeugt und bereitgestellt wurden, nicht allein aufgrund von Artikel 50 rückwirkend gekennzeichnet werden. Die Kommission empfiehlt eine freiwillige Kennzeichnung dort, wo dies sinnvoll möglich ist.