Die Nutzung von Künstlicher Intelligenz (KI) hat sich längst im Berufsleben etabliert. Viele Inhalte im Internet sind mittlerweile mithilfe der Technologie erstellt und dabei häufig erschwert für den jeweiligen Betrachter als „KI-generiert“ zu enttarnen. Der AI Act der Europäischen Union, auch im deutschsprachigen KI-VO genannt, soll dieser Praxis seit dem 02. August 2026 einen Riegel vorschieben. Mithilfe der eingeführten Transparenzpflichten verfolgt die EU das Ziel, das Verbreiten von Desinformationen durch die Nutzung von KI einzuschränken. Im Folgenden sollen Szenarien und Handlungsempfehlungen eine Übersicht über das hochaktuelle Thema geben.

Kennzeichnungspflichten wann und für wen?

Als Rechtsgrundlage für die neu geschaffene Transparenzpflicht ist der Art. 50 Abs. 4 KI-VO heranzuziehen.

Der erste Abschnitt des Absatzes 4 bezieht sich auf sogenannte „Deep Fakes“, also nach der Legaldefintion in Art. 3 Nr. 60 KI-VO „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde„. Entscheidend ist demnach, dass der erzeugte Inhalt nicht offensichtlich für einen durchschnittlichen Betrachter als KI-generiert zu erkennen ist. Ausgenommen ist darüber hinaus KI-Einsatz, der lediglich leichte Korrekturen und Veränderung an bereits bestehenden Inhalten, beispielsweise das Retourschieren von Unebenheiten auf Bildern oder das Anpassen der Schattierung, zur Aufgabe hat.

Die Kennzeichnungspflicht gilt bei der Veröffentlichung von Deep Fakes jedoch nur für „Betreiber“ im Sinne des Art. 3 Nr. 4 KI-VO. Nach dieser Vorschrift ist ein Betreiber „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet„. Somit sind private Verwender von der Pflicht ausgenommen.

Im zweiten Abschnitt des Absatzes werden Texte, die ganz oder mithilfe von KI erstellt wurden, in den Blick genommen. Zunächst sind im Sinne der Norm nur Texte erfasst, die „Angelegenheiten von öffentlichem Interesse“ behandeln. Dieser unbestimmte Rechtsbegriff wird unter anderem durch die Erwägungsgründe der Verordnung konkretisiert. Demnach sind Texte über Themen wie gesellschaftliche und politische Diskussionen, meinungsbildende Inhalte oder allgemeine Nachrichten wohl unter den Begriff der Angelegenheiten von öffentlichem Interesse zu fassen. Eine genaue Abgrenzung wird sich mit der Zeit in Literatur und Rechtsprechung ergeben.

Zudem müssen die fraglichen Texte auch veröffentlicht werden. Private mit KI generierte Texte, die inhaltlich unter den Anwendungsbereich fallen würden, bleiben außen vor.

Bedeutsame Praxisausnahme

Veröffentlichte Texte, die Angelegenheiten im öffentlichen Interesse zum Inhalt haben, müssen somit grundsätzlich mit einem Hinweis auf den KI-Einsatz versehen werden. Eine für die Praxis bedeutsame Ausnahme findet sich jedoch im letzten Satz des Absatzes 4. Diese Ausnahme von der Kennzeichnungspflicht greift, wenn die Inhalte „einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“ Vereinfacht gesagt muss der Text vor Veröffentlichung einer menschlichen Überprüfung standgehalten haben und ein Mensch oder ein Unternehmen muss die rechtliche Verantwortung für den Inhalt tragen. Dies dürfte in den meisten Fällen in der Praxis der Fall sein. Rechtssicherheit im Einzelfall erfordert jedoch im Zweifel eine fachgerechte Analyse.

Wie hat die Kennzeichnung zu erfolgen?

Für Betroffene der Kennzeichnungspflicht sind die Anforderungen des Art. 50 Abs. 5 KI-VO zu beachten. Demnach hat die Kennzeichnung spätestens „zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise“ zu erfolgen. Aus der Norm lässt sich ableiten, dass ein allgemeiner Hinweis im Impressum oder unter einer Hinweisseite nicht ausreicht. Vielmehr ist erforderlich, dass eine Kennzeichnung, wie – „Dieser Inhalt wurde mithilfe / unter dem Einsatz von KI erstellt“ – direkt in Verbindung mit dem jeweiligen Erzeugnis steht.

Konsequenzen bei Nichtbeachtung

Verstöße gegen die Kennzeichnungspflicht aus Art. 50 Abs. 4 KI-VO können eine empfindliche Geldbuße nach sich ziehen. Der Art. 99 Abs. 4 KI-VO sieht Summen von 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor.

Wir unterstützen Sie in der Einzelfallprüfung

Die in Kraftgetretene Vorschrift aus der KI-VO soll ein Baustein gegen die Verbreitung von Falschinformationen im digitalen Raum sein und gleichzeitig mögliche Gefahren durch die Verwendung von KI eindämmen. Im Einzelfall entstehen dabei schwierige Abgrenzungsfragen in der Bewertung von KI-generierten Inhalten und eine mitunter verpflichtende Kennzeichnung eben jener Produkte.

Wir unterstützen Sie kompetent und zuverlässig bei Fragen rund um das Thema Kennzeichnungspflichten nach der KI-VO im Zusammenhang mit Ihren beruflichen Tätigkeiten. Nehmen Sie unkompliziert Kontakt mit uns auf.