Es ist soweit: Seit dem 2. August 2026 gelten neue Transparenzpflichten für KI-Inhalte, wonach Unternehmen KI-Inhalte kennzeichnen müssen. Entgegen vieler undifferenzierter Darstellungen fällt die Kennzeichnungspflicht jedoch wesentlich beschränkter aus, als man glauben könnte. Wir erläutern Ihnen die Vorgaben und Ausnahmen.
KI-Kennzeichnung wird zur Pflicht
KI erstellt inzwischen Texte für Webseiten, erzeugt Produktbilder, bearbeitet Fotos und produziert Videos für Social Media oder unterstützt hierbei – wie auch im Rahmen dieses Newsletters. Doch mit den neuen Möglichkeiten gehen nun auch Kennzeichnungspflichten einher.
Seit dem 2. August 2026 gelten für bestimmte Inhalte die Transparenzpflichten des Art. 50 der KI-Verordnung. Sie sollen verhindern, dass Menschen KI-generierte oder manipulierte Inhalte mit echten Inhalten verwechseln.
Besonders relevant: Bilder, Videos und Audios
In der Praxis dürfte die Kennzeichnung vor allem bei Bildern und Videos relevant werden. Wird beispielsweise für eine Werbekampagne ein der Realität ähnelndes Foto einer Person, eines Gegenstandes, eines Ortes, einer Einrichtung oder eines Ereignisses durch KI erzeugt oder der Realität zuwider verändert, ist eine Kennzeichnung als KI-generierter beziehungsweise manipulierter Inhalt erforderlich. Gleiches gilt für Audios.
Bei solchen „Deepfakes“ muss die Information für den Betrachter klar und verständlich erfolgen. Ein versteckter Hinweis in den Metadaten – wie es die KI-Systeme von sich aus bereits umsetzen – reicht nicht aus.
Gerade im Marketing sollte deshalb geprüft werden, wie KI-generierte Abbildungen künftig gekennzeichnet werden sollen. Die Europäische Kommission hat hierfür freiwillig nutzbare Symbole zur Kennzeichnung von KI-generierten Inhalten entwickelt, die entweder allgemein gehalten sind oder die konkrete Art der Verarbeitung darstellen:
Bei Texten kommt es auf die Veröffentlichung an
Bei KI-generierten Texten ist die Situation differenzierter. Die KI-Verordnung sieht eine Transparenzpflicht für KI-generierte oder manipulierte Texte vor, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Ein Unternehmen muss deshalb nicht automatisch jeden mit KI formulierten Text zu aktuellen Geschehnissen mit einem KI-Hinweis versehen. Wird die KI genutzt, um einen umfangreichen Beitrag zu einem gesellschaftlich oder politisch relevanten Thema vollständig zu erstellen und wird der Beitrag anschließend im Wesentlichen unverändert veröffentlicht, besteht eine Kennzeichnungspflicht. Demgegenüber besteht keine Kennzeichnungspflicht, wenn der Text entweder nicht als redaktionelles Medium veröffentlicht wird oder einer angemessenen redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Daher steht im Fokus der Regulatorik nicht die KI-unterstützte Erstellung von irgendwelchen Texten, sondern eine automatisierte, unkontrollierte und damit potenziell falsche Medienberichterstattung.
Relevanz für die tägliche Arbeit
In Unternehmen sollte deshalb nicht nur der Einsatz von KI geregelt werden, sondern auch, welche Inhalte damit in welchem Umfang erstellt werden. Wer beispielsweise KI lediglich zur Rechtschreibprüfung, Übersetzung oder Verbesserung einzelner Formulierungen einsetzt, befindet sich in einer anderen Situation als ein Unternehmen, das komplette Werbebilder, Videos oder redaktionelle Beiträge erzeugen lässt oder gar automatisiert veröffentlicht.
Folgende Aspekte dürften insoweit bei der internen Bewertung hilfreich sein:
- Welche KI-Tools dürfen – beispielsweise aus datenschutzrechtlicher Sicht – verwendet werden? Gibt es eine Richtlinie dazu?
- Entwickeln Sie einen klaren Rahmen für die Nutzung und verpflichten Ihre Mitarbeiter entsprechend.
- Welche Inhalte werden damit erstellt? Ist eine menschliche Überarbeitung oder Prüfung erfolgt?
- Bei Texten genügt eine menschliche Überarbeitung oder Kontrolle häufig, um keinen Kennzeichnungspflichten zu unterliegen.
- Bei Bildern, Videos und Audios ist entscheidend, ob Personen, Gegenstände, Orte oder Ereignisse dargestellt werden, die der Wirklichkeit ähneln, so jedoch nicht stattgefunden haben.
Fazit
Die neuen Transparenzpflichten verlangen keine pauschale Kennzeichnung sämtlicher KI-Nutzungen. Bei KI-generierten Bildern, Videos und Audios, sowie bei automatisiert veröffentlichten Texten sollten Unternehmen ihre bisherigen Prozesse jedoch anpassen.
