Wer muss KI-Inhalte kennzeichnen?

Die KI-VO unterscheidet zwischen Anbietern und Betreibern von KI-Systemen.

Ein Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO).

Ein Betreiber ist demgegenüber, wer ein KI-System unter eigener Verantwortung im beruflichen Kontext einsetzt (Art. 3 Nr. 4 KI-VO).

Die Kennzeichnungspflichten nach Art. 50 KI-VO richten sich insbesondere an Betreiber. Damit können beispielsweise Unternehmen, Agenturen, Verlage und Selbstständige betroffen sein, die KI-Werkzeuge zur Erstellung oder Bearbeitung von Inhalten einsetzen.

Eine rein private Nutzung ohne beruflichen oder wirtschaftlichen Zusammenhang fällt grundsätzlich nicht unter diese Pflichten. Relevant wird die Kennzeichnung insbesondere dann, wenn KI-Inhalte im geschäftlichen Kontext veröffentlicht oder eingesetzt werden – etwa auf einer Unternehmenswebsite oder einem gewerblichen Social-Media-Kanal.

Warum gibt es eine KI-Kennzeichnungspflicht?

Die Regelungen sollen vor allem Transparenz schaffen.

Nutzer sollen erkennen können, ob sie mit einem KI-System interagieren oder ob ein Bild, Video, Audioinhalt oder Text durch KI erzeugt oder wesentlich verändert wurde.

Hintergrund ist die zunehmende Schwierigkeit, künstlich erzeugte Inhalte von authentischen menschlichen Inhalten zu unterscheiden. Die Kennzeichnung soll Täuschungen entgegenwirken und das Vertrauen in digitale Kommunikation stärken.

Welche Inhalte müssen gekennzeichnet werden?

Nicht jede Verwendung von KI und nicht jede technische Bearbeitung eines Inhalts führt automatisch zu einer Kennzeichnungspflicht.

Art. 50 KI-VO erfasst insbesondere folgende Fälle:

Deepfakes

Besonders relevant sind KI-generierte oder manipulierte Bild-, Ton- und Videoinhalte, die bestehenden Personen, Gegenständen oder Ereignissen ähneln und den Eindruck erwecken können, authentisch zu sein.

Wer beispielsweise ein Video einer realen Person mithilfe von KI so verändert, dass diese Person scheinbar Aussagen tätigt oder Handlungen vornimmt, die tatsächlich nicht stattgefunden haben, muss die entsprechenden Transparenzpflichten beachten.

KI-generierte oder manipulierte Inhalte

Auch andere Inhalte können unter die Transparenzpflichten fallen, wenn sie durch KI erzeugt oder wesentlich verändert wurden.

Entscheidend ist dabei nicht allein, ob bei der Erstellung irgendein KI-Werkzeug verwendet wurde. Vielmehr kommt es auf die konkrete Art der Nutzung und den jeweiligen Inhalt an.

Einfache Bearbeitungen

Nicht jede digitale oder KI-gestützte Bearbeitung ist kennzeichnungspflichtig.

Klassische Änderungen wie Zuschnitt, Farbkorrekturen oder vergleichbare geringfügige Bearbeitungen lösen grundsätzlich keine Kennzeichnungspflicht aus, solange die Aussage des Inhalts nicht wesentlich verändert wird.

Was gilt für KI-generierte Texte?

Für KI-generierte Texte ist die Regelung enger.

Nach Art. 50 Abs. 4 KI-VO müssen Betreiber KI-generierte oder manipulierte Texte insbesondere dann kennzeichnen, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Dabei gibt es eine wichtige Ausnahme: Die Kennzeichnungspflicht entfällt, wenn eine angemessene menschliche redaktionelle Kontrolle erfolgt und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Für Unternehmen bedeutet das: Nicht jeder mit Unterstützung von ChatGPT oder einem anderen KI-System erstellte Website- oder Social-Media-Text muss automatisch als KI-generiert gekennzeichnet werden. Ob eine Kennzeichnung erforderlich ist, hängt von den konkreten Umständen der Erstellung und Veröffentlichung ab.

Wie muss gekennzeichnet werden?

Die KI-VO schreibt keine bestimmte Formulierung vor. Die Kennzeichnung muss allerdings klar, eindeutig und wahrnehmbar sein.

Die Information muss spätestens bei der ersten Interaktion oder Wahrnehmung bereitgestellt werden.

Ein Hinweis, der lediglich im Impressum versteckt oder nur über mehrere Unterseiten auffindbar ist, dürfte diesen Anforderungen regelmäßig nicht genügen. Die Kennzeichnung sollte vielmehr dort erfolgen, wo Nutzer unmittelbar mit dem jeweiligen Inhalt in Kontakt kommen.

Je nach Inhalt können beispielsweise Hinweise wie „KI-generiert“, „mit KI erstellt“ oder „mit KI bearbeitet“ in Betracht kommen. Entscheidend ist, dass für die Nutzer transparent wird, dass und in welcher Weise KI eingesetzt wurde.

Welche Folgen drohen bei Verstößen?

Verstöße gegen die Transparenz- und Kennzeichnungspflichten können erhebliche rechtliche Folgen haben.

Bußgelder nach der KI-Verordnung

Art. 99 KI-VO sieht für bestimmte Verstöße gegen die Verordnung empfindliche Geldbußen vor. Je nach Verstoß können diese bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes betragen, wobei der jeweils höhere Betrag maßgeblich sein kann.

Bei der konkreten Höhe sind unter anderem die Schwere und Dauer des Verstoßes sowie weitere Umstände des Einzelfalls zu berücksichtigen.

Wettbewerbsrechtliche Folgen

Neben den Sanktionen nach der KI-VO können auch wettbewerbsrechtliche Konsequenzen eine Rolle spielen.

Eine fehlende oder unzureichende Kennzeichnung kann – abhängig vom konkreten Sachverhalt – als Verstoß gegen Marktverhaltensregeln des UWG eingeordnet werden. Damit können beispielsweise Abmahnungen durch Mitbewerber oder Verbände verbunden sein.

Wer KI-Inhalte als authentische menschliche Inhalte erscheinen lässt, kann sich darüber hinaus dem Vorwurf einer Irreführung nach § 5 UWG oder eines Verstoßes gegen Informationspflichten nach § 5a UWG aussetzen.

Persönlichkeitsrechte und Social Media

Besondere Vorsicht ist bei KI-generierten Bildern, Videos oder Audiodateien geboten, die reale Personen darstellen.

Ein nicht oder nicht ausreichend gekennzeichneter Deepfake kann nicht nur gegen Transparenzpflichten verstoßen, sondern gegebenenfalls auch Persönlichkeitsrechte verletzen. Daraus können unter anderem Unterlassungs- und Schadensersatzansprüche entstehen.

Auch Plattformbetreiber können auf problematische Inhalte reagieren und beispielsweise Inhalte entfernen oder Accounts einschränken.

Was sollten Unternehmen jetzt tun?

Die neuen Regelungen sollten zum Anlass genommen werden, den eigenen Umgang mit KI systematisch zu überprüfen.

Sinnvoll sind insbesondere folgende Maßnahmen:

  • KI-Einsatz im Unternehmen erfassen: Welche KI-Systeme werden von Mitarbeitern genutzt und für welche Zwecke?
  • Veröffentlichungen prüfen: Bei welchen KI-generierten oder KI-bearbeiteten Inhalten besteht eine Kennzeichnungspflicht?
  • Verantwortlichkeiten festlegen: Wer entscheidet, ob ein Inhalt gekennzeichnet werden muss?
  • Redaktionelle Kontrolle dokumentieren: Insbesondere bei KI-gestützten Texten sollte nachvollziehbar sein, welche menschliche redaktionelle Kontrolle stattgefunden hat.
  • Interne KI-Richtlinien schaffen: Unternehmen sollten klare Vorgaben für die Nutzung generativer KI durch ihre Mitarbeiter entwickeln.
  • Mitarbeiter sensibilisieren: Die rechtlichen Anforderungen sollten denjenigen bekannt sein, die KI-Tools im Marketing, in der Kommunikation, im Vertrieb oder in anderen Unternehmensbereichen einsetzen.

Dabei ist zwischen der internen Nutzung von KI und der öffentlichen Kommunikation zu unterscheiden. Interne Entwürfe, Rechercheunterstützung, Arbeitshilfen oder interne Zusammenfassungen sind regelmäßig anders zu beurteilen als Inhalte, die anschließend öffentlich zugänglich gemacht werden.

Fazit

Die KI-Kennzeichnungspflichten nach Art. 50 KI-VO gelten seit dem 2. August 2026 und bringen für Unternehmen neue Anforderungen an die Transparenz beim Einsatz künstlicher Intelligenz.

Dabei gilt jedoch nicht: „Jeder KI-generierte Inhalt muss gekennzeichnet werden.“ Entscheidend sind vielmehr die Art des Inhalts, die konkrete Nutzung von KI und der Kontext der Veröffentlichung.

Unternehmen sollten deshalb ihre bestehenden Prozesse überprüfen und klare interne Regeln für den Einsatz von KI schaffen. Wer frühzeitig festlegt, wann KI genutzt werden darf, wann eine menschliche Kontrolle erforderlich ist und wann Inhalte gekennzeichnet werden müssen, kann rechtliche Risiken reduzieren und zugleich für einen transparenten Umgang mit KI sorgen.