Kennzeichnungspflicht für KI-Inhalte – Was Unternehmen jetzt wissen müssen

Mit der europäischen KI-Verordnung (KI-VO bzw. AI Act) hat die Europäische Union erstmals ein umfassendes Regelwerk für den Einsatz künstlicher Intelligenz geschaffen. Die Verordnung wurde im Jahr 2024 beschlossen und ist am 1. August 2024 in Kraft getreten. Da die KI-VO einen gestaffelten Anwendungsbeginn vorsieht, gelten die einzelnen Regelungen jedoch nicht sofort. Die Transparenzpflichten nach Art. 50 KI-VO und damit auch die Kennzeichnungspflicht für KI-Inhalte sind grundsätzlich ab dem 2. August 2026 anzuwenden.

Die Kennzeichnungspflicht für KI-Inhalte gehört zu den wichtigsten Transparenzpflichten der KI-Verordnung. Sie verpflichtet Unternehmen dazu, bestimmte mit künstlicher Intelligenz erzeugte oder manipulierte Inhalte eindeutig zu kennzeichnen. Betroffen sind insbesondere KI-generierte Bilder, Videos, Audioinhalte sowie in bestimmten Fällen auch Texte und sogenannte Deepfakes.

Ziel dieser Regelung ist es, Verbraucher, Geschäftspartner und sonstige Nutzer vor Täuschungen zu schützen. Gerade durch moderne KI-Systeme lassen sich heute täuschend echte Bilder, Videos, Audiodateien oder Texte erstellen. Ohne entsprechende Hinweise können Empfänger häufig nicht mehr erkennen, ob Inhalte von einem Menschen oder einer KI stammen.

Die Kennzeichnungspflicht soll deshalb Transparenz schaffen und das Vertrauen in digitale Inhalte stärken. Gleichzeitig soll sie verhindern, dass KI zur Manipulation der öffentlichen Meinungsbildung, für Betrugsversuche oder zur Verbreitung von Desinformation eingesetzt wird. Unternehmen sollten sich daher frühzeitig mit den neuen Anforderungen auseinandersetzen, ihre eingesetzten KI-Systeme überprüfen und interne Prozesse rechtzeitig an die Vorgaben des Art. 50 KI-VO anpassen.

Für wen gilt die Kennzeichnungspflicht?

Die Kennzeichnungspflichten des Art. 50 KI-VO richten sich nicht an alle Unternehmen gleichermaßen. Verpflichtet sind insbesondere Anbieter und Betreiber bestimmter KI-Systeme, sofern diese Inhalte erzeugen oder verändern, bei denen für Dritte nicht ohne Weiteres erkennbar ist, dass künstliche Intelligenz eingesetzt wurde. Entscheidend ist daher nicht die Unternehmensgröße oder Branche, sondern die konkrete Nutzung der KI.

Betroffen sein können beispielsweise Unternehmen, die KI für Marketingkampagnen, Produktbilder, Chatbots, automatisierte Kundenkommunikation oder Social-Media-Beiträge einsetzen. Auch Medienunternehmen, Agenturen, Personalabteilungen oder Hersteller intelligenter Softwarelösungen können unter die Transparenzpflichten fallen. Werden KI-generierte Bilder, Stimmen oder Videos veröffentlicht, ist stets zu prüfen, ob eine Kennzeichnung erforderlich ist.

Besondere Bedeutung kommt den sogenannten Deepfakes zu. Hierbei handelt es sich um künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die den Eindruck vermitteln können, eine Person habe bestimmte Aussagen getroffen oder Handlungen vorgenommen. Solche Inhalte bergen erhebliche Risiken für Persönlichkeitsrechte, den demokratischen Meinungsbildungsprozess und den Verbraucherschutz. Deshalb schreibt Art. 50 KI-VO grundsätzlich vor, dass Deepfakes eindeutig als künstlich erzeugt oder manipuliert kenntlich gemacht werden müssen. Nur in eng begrenzten Ausnahmefällen, etwa bei bestimmten Strafverfolgungsmaßnahmen oder unter besonderen Voraussetzungen für journalistische, künstlerische, satirische oder wissenschaftliche Zwecke, gelten Erleichterungen.

Unternehmen sollten daher zunächst prüfen, welche KI-Anwendungen im eigenen Betrieb eingesetzt werden und welche Inhalte dadurch entstehen. Bereits diese Bestandsaufnahme bildet die Grundlage für die spätere rechtssichere Umsetzung der Kennzeichnungspflichten.

Unternehmen sollten daneben auch die Schulungspflicht nach Art. 4 KI-VO im Blick behalten. Wer Mitarbeitende KI-Systeme nutzen lässt, muss diese grundsätzlich im Umgang mit Künstlicher Intelligenz schulen. Mehr dazu erfahren Sie in unserem Beitrag zur KI-Schulungspflicht nach Art. 4 KI-VO.

Welche KI-Inhalte müssen gekennzeichnet werden?

Art. 50 KI-VO unterscheidet zwischen verschiedenen Arten von KI-generierten oder KI-manipulierten Inhalten. Ob eine Kennzeichnung erforderlich ist, hängt daher maßgeblich davon ab, welche Art von Inhalt erstellt oder veröffentlicht wird und welche Risiken für Dritte bestehen. Unternehmen sollten deshalb genau prüfen, welche KI-Anwendungen sie einsetzen und welche Ergebnisse diese erzeugen.

Zu den kennzeichnungspflichtigen Inhalten gehören insbesondere:

• KI-generierte Bilder, beispielsweise Produktbilder, Werbematerialien oder Illustrationen.
• KI-generierte Audioinhalte, etwa künstlich erzeugte Stimmen, Sprachaufnahmen oder Telefonansagen.
• KI-generierte Videos, einschließlich vollständig künstlich erstellter oder nachträglich manipulierter Videosequenzen.
• Deepfakes, bei denen Bild-, Ton- oder Videoinhalte so verändert werden, dass Personen scheinbar Aussagen treffen oder Handlungen ausführen, die tatsächlich nie stattgefunden haben.
• Bestimmte KI-generierte Texte, wenn diese veröffentlicht werden und die KI-VO hierfür eine Offenlegung vorsieht, beispielsweise um die Öffentlichkeit über künstlich erzeugte Informationen zu informieren.

Nicht jede Nutzung von KI löst jedoch automatisch eine Kennzeichnungspflicht aus. Nutzt ein Unternehmen künstliche Intelligenz lediglich als internes Hilfsmittel, beispielsweise zur Rechtschreibkorrektur, Übersetzung, Ideenfindung oder Unterstützung bei der Texterstellung, ohne dass der veröffentlichte Inhalt den Eindruck erweckt, vollständig von einem Menschen erstellt worden zu sein oder besondere Transparenzpflichten greifen, besteht regelmäßig keine Kennzeichnungspflicht allein aufgrund der Nutzung der KI.

In der Praxis kommt es daher stets auf den konkreten Einzelfall an. Maßgeblich sind insbesondere die Art des Inhalts, dessen Verwendungszweck sowie die Frage, ob ohne Kennzeichnung die Gefahr besteht, dass Nutzer über den Ursprung oder die Echtheit des Inhalts getäuscht werden.

Wie müssen KI-Inhalte gekennzeichnet werden?

Die KI-VO schreibt zwar vor, dass bestimmte Inhalte transparent gekennzeichnet werden müssen, macht jedoch nur begrenzte Vorgaben wie diese Kennzeichnung im Einzelnen auszugestalten ist. Entscheidend ist vielmehr, dass der Hinweis für den jeweiligen Empfänger klar, eindeutig und spätestens zum Zeitpunkt der Wahrnehmung des Inhalts erkennbar ist. Eine versteckte oder nur schwer auffindbare Kennzeichnung genügt den gesetzlichen Anforderungen regelmäßig nicht.

Je nach Art des Mediums kann die Kennzeichnung unterschiedlich umgesetzt werden. In der Praxis kommen unter anderem folgende Möglichkeiten in Betracht:

• Bilder: Hinweis in der Bildbeschreibung, Bildunterschrift oder unmittelbar am Bild, beispielsweise „KI-generiertes Bild“.
• Videos: Einblendung zu Beginn oder während des Videos sowie ergänzende Hinweise in der Videobeschreibung.
• Audioinhalte: Mündlicher Hinweis zu Beginn der Aufnahme oder gut sichtbare Kennzeichnung auf der jeweiligen Plattform.
• Texte: Transparenter Hinweis, dass der Inhalt ganz oder teilweise mithilfe künstlicher Intelligenz erstellt wurde, sofern eine Kennzeichnungspflicht besteht.
• Deepfakes: Besonders deutliche Kennzeichnung, dass Bild-, Ton- oder Videomaterial künstlich erzeugt oder manipuliert wurde.

Die Kennzeichnung muss so erfolgen, dass sie leicht wahrnehmbar, verständlich und für den durchschnittlichen Nutzer nachvollziehbar ist. Ziel ist es, den Empfänger in die Lage zu versetzen, den Ursprung des Inhalts richtig einzuordnen und nicht über dessen Echtheit oder Entstehungsweise getäuscht zu werden. Unternehmen sollten deshalb einheitliche Kennzeichnungsrichtlinien entwickeln und sicherstellen, dass Marketing-, Kommunikations- und Fachabteilungen diese Vorgaben konsequent umsetzen.

Dabei ist zu beachten, dass die Kennzeichnungspflichten der KI-VO neben weiteren rechtlichen Vorgaben bestehen können. Insbesondere können sich aus dem Wettbewerbsrecht, dem Medienrecht oder spezialgesetzlichen Transparenzpflichten zusätzliche Anforderungen ergeben, die im Einzelfall ebenfalls berücksichtigt werden müssen.

Welche Ausnahmen von der Kennzeichnungspflicht nach Art. 50 KI-VO gelten?

Obwohl Art. 50 KI-VO weitreichende Transparenzpflichten vorsieht, gilt die Kennzeichnungspflicht nicht ausnahmslos für jeden KI-generierten Inhalt. Der europäische Gesetzgeber hat bewusst Ausnahmen geschaffen, um berechtigte Interessen, wie beispielsweise die Meinungs-, Kunst- und Wissenschaftsfreiheit, zu berücksichtigen und unnötige Bürokratie zu vermeiden. Unternehmen sollten diese Ausnahmen jedoch sorgfältig prüfen, da sie eng auszulegen sind.

Zu den wichtigsten Ausnahmen gehören:

• Offensichtlich erkennbare KI-Inhalte: Ist für den durchschnittlichen Nutzer ohne Weiteres erkennbar, dass ein Inhalt künstlich erzeugt wurde, kann eine gesonderte Kennzeichnung entbehrlich sein.
• Journalistische Zwecke: Deepfakes, die im Rahmen journalistischer Berichterstattung verwendet werden, können unter bestimmten Voraussetzungen von einzelnen Kennzeichnungspflichten ausgenommen sein. Die Transparenz gegenüber dem Publikum muss jedoch weiterhin gewahrt bleiben.
• Künstlerische, satirische und fiktionale Inhalte: Auch hier sieht die KI-VO Erleichterungen vor. Dennoch darf die Darstellung nicht dazu führen, dass das Publikum über den künstlichen Ursprung oder die Echtheit des Inhalts irregeführt wird.
• Strafverfolgung und Gefahrenabwehr: Behörden können bei der Nutzung bestimmter KI-Systeme unter den gesetzlich vorgesehenen Voraussetzungen von einzelnen Transparenzpflichten ausgenommen sein.

Darüber hinaus enthält Art. 50 KI-VO eine wichtige Erleichterung für KI-generierte Texte, die vor einer Veröffentlichung einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurden und bei denen eine natürliche oder juristische Person die Verantwortung für den veröffentlichten Inhalt übernimmt. In diesen Fällen greift die Offenlegungspflicht regelmäßig nicht. Damit trägt der Gesetzgeber dem Umstand Rechnung, dass KI vielfach lediglich als unterstützendes Werkzeug eingesetzt wird und die letztendliche inhaltliche Verantwortung weiterhin beim Menschen liegt.

Unternehmen sollten sich jedoch nicht vorschnell auf eine Ausnahme berufen. Ob die Voraussetzungen tatsächlich vorliegen, ist stets anhand der konkreten Umstände des Einzelfalls zu beurteilen. Eine fehlerhafte Einschätzung kann dazu führen, dass gegen die Transparenzpflichten der KI-VO verstoßen wird und entsprechende aufsichtsrechtliche Maßnahmen drohen.

Praxisbeispiele: Lässt ein Unternehmen einen LinkedIn-Beitrag oder einen Blogartikel zunächst von einer KI erstellen, prüft den Entwurf anschließend sorgfältig, überarbeitet ihn redaktionell und gibt ihn vor der Veröffentlichung frei, greift die Kennzeichnungspflicht regelmäßig nicht, sofern das Unternehmen die Verantwortung für den Inhalt übernimmt. Gleiches gilt für Pressemitteilungen oder Fachartikel, die nach einer umfassenden menschlichen Prüfung veröffentlicht werden. Anders verhält es sich, wenn ein KI-System Inhalte – etwa Nachrichten oder Social-Media-Beiträge – automatisiert und ohne menschliche Kontrolle veröffentlicht. In diesem Fall greift die Ausnahme nicht, sodass die Kennzeichnungspflicht grundsätzlich bestehen bleibt.

Welche Bußgelder drohen bei Verstößen gegen die Kennzeichnungspflicht für KI-Inhalte?

Die Einhaltung der Transparenzpflichten nach Art. 50 KI-VO ist keine bloße Empfehlung, sondern eine verbindliche gesetzliche Verpflichtung. Verstöße können daher erhebliche rechtliche und wirtschaftliche Folgen nach sich ziehen. Neben aufsichtsrechtlichen Maßnahmen drohen Unternehmen insbesondere empfindliche Bußgelder sowie erhebliche Reputationsschäden.

Die KI-VO sieht für Verstöße gegen bestimmte Transparenzpflichten Bußgelder von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor. Maßgeblich ist jeweils der höhere Betrag. Bei der Bemessung berücksichtigt die zuständige Aufsichtsbehörde unter anderem:

• Art, Schwere und Dauer des Verstoßes,
• den Grad des Verschuldens,
• die Anzahl der betroffenen Personen,
• die ergriffenen Abhilfemaßnahmen,
• eine mögliche Zusammenarbeit mit der Aufsichtsbehörde,
• frühere Verstöße sowie
• die wirtschaftliche Leistungsfähigkeit des Unternehmens.

Neben den finanziellen Sanktionen können Behörden weitere Maßnahmen anordnen. Hierzu gehören beispielsweise die Verpflichtung zur nachträglichen Kennzeichnung von Inhalten, die Untersagung des weiteren Einsatzes bestimmter KI-Systeme oder Anordnungen zur Herstellung eines rechtmäßigen Zustands. Gerade für Unternehmen, die KI intensiv im Marketing, Vertrieb oder in der Kundenkommunikation einsetzen, können solche Maßnahmen erhebliche Auswirkungen auf Geschäftsprozesse haben.

Hinzu kommen mögliche wettbewerbsrechtliche Risiken. Werden Verbraucher oder Geschäftspartner durch fehlende Transparenz über den Einsatz künstlicher Intelligenz irregeführt, können Mitbewerber, Verbraucherverbände oder andere anspruchsberechtigte Stellen unter Umständen Unterlassungs- und Beseitigungsansprüche geltend machen. Auch wenn die konkrete Entwicklung der Rechtsprechung hierzu noch abzuwarten bleibt, sollten Unternehmen dieses Risiko bereits heute in ihre Compliance-Strategie einbeziehen.

Die Kennzeichnungspflichten sollten daher nicht isoliert betrachtet werden. Vielmehr empfiehlt es sich, den Einsatz von KI-Systemen in ein umfassendes Compliance-Konzept einzubetten, Verantwortlichkeiten festzulegen und interne Freigabeprozesse für KI-generierte Inhalte zu etablieren. Auf diese Weise lassen sich rechtliche Risiken deutlich reduzieren und die Anforderungen der KI-VO nachhaltig erfüllen.

Fazit: So setzen Unternehmen die Kennzeichnungspflicht rechtssicher um

Die Kennzeichnungspflicht für KI-Inhalte nach Art. 50 KI-VO stellt Unternehmen vor neue Compliance-Anforderungen. Wer künstliche Intelligenz zur Erstellung oder Manipulation von Bildern, Videos, Audioinhalten oder bestimmten Texten einsetzt, muss frühzeitig prüfen, ob eine Transparenzpflicht besteht. Ziel der Regelungen ist es, Vertrauen in digitale Inhalte zu schaffen und Nutzer vor Täuschung, Desinformation und missbräuchlichem Einsatz von KI zu schützen.

Für die Praxis empfiehlt sich ein systematisches Vorgehen:

• KI-Anwendungen inventarisieren: Erfassen Sie, in welchen Unternehmensbereichen KI eingesetzt wird.
• Kennzeichnungspflichten prüfen: Bewerten Sie für jede Anwendung, ob Art. 50 KI-VO eine Kennzeichnung verlangt.
• Interne Richtlinien erstellen: Legen Sie verbindliche Vorgaben fest, wie KI-generierte Inhalte gekennzeichnet werden.
• Verantwortlichkeiten definieren: Bestimmen Sie Freigabe- und Kontrollprozesse für Marketing, Kommunikation und Fachabteilungen.
• Mitarbeitende schulen: Sensibilisieren Sie Beschäftigte für die Anforderungen der KI-VO und die korrekte Kennzeichnung.
• Regelmäßige Überprüfung: Kontrollieren Sie bestehende Prozesse fortlaufend und passen Sie diese an neue rechtliche oder technische Entwicklungen an.

Die KI-VO sollte dabei nicht isoliert betrachtet werden. Häufig greifen daneben weitere rechtliche Vorgaben, etwa aus der Datenschutz-Grundverordnung (DSGVO), dem Gesetz gegen den unlauteren Wettbewerb (UWG), dem Medienrecht oder branchenspezifischen Regelungen. Eine ganzheitliche Compliance-Strategie hilft dabei, Überschneidungen zu erkennen und rechtliche Risiken zu minimieren.

Unternehmen, die bereits heute transparente Prozesse für den Einsatz künstlicher Intelligenz schaffen, erfüllen nicht nur die gesetzlichen Anforderungen der KI-VO. Sie stärken zugleich das Vertrauen von Kunden, Geschäftspartnern und Mitarbeitenden und schaffen die Grundlage für einen verantwortungsvollen und zukunftssicheren Einsatz von KI-Technologien.

Fragen zur Kennzeichnungspflicht nach der KI-VO?

Sie sind unsicher, ob Ihre KI-generierten Inhalte nach Art. 50 KI-VO gekennzeichnet werden müssen oder ob eine gesetzliche Ausnahme greift? Unsere erfahrenen Rechtsanwälte beraten Unternehmen zu den Transparenzpflichten der KI-Verordnung, prüfen Ihre konkreten Anwendungsfälle und unterstützen Sie bei der rechtskonformen Umsetzung der neuen Vorgaben. Vereinbaren Sie ein Teams-Meeting oder stellen Sie direkt Ihre Rechtsfrage – wir helfen Ihnen gerne!