Neue KI-Kennzeichnungspflichten gelten seit August - Wissen, was im Tourismus los ist!

Seit dem 2. August 2026 gelten in der Europäischen Union neue Transparenzpflichten für bestimmte Inhalte, die mithilfe künstlicher Intelligenz erzeugt oder verändert wurden. Die Vorgaben des EU AI Act sollen es Nutzern erleichtern, künstlich erzeugte Darstellungen zu erkennen und deren Herkunft richtig einzuordnen.

Für Unternehmen, Medien und Organisationen bedeutet dies, dass sie ihre bisherigen Abläufe beim Einsatz generativer KI überprüfen müssen. Allerdings ist nicht jeder mit KI erstellte Inhalt automatisch kennzeichnungspflichtig. Entscheidend sind unter anderem Art und Verwendung des Materials sowie die Frage, ob ein Inhalt mit einer realen Darstellung verwechselt werden kann.

Realistisch wirkende Bilder, Videos und Audios im Fokus

Besondere Bedeutung haben die Transparenzvorgaben bei KI-generierten oder KI-manipulierten Bildern, Videos und Audioinhalten. Ähneln diese realen Personen, Orten, Produkten oder Ereignissen und könnten deshalb für authentisches Material gehalten werden, kann eine Kennzeichnung erforderlich sein.

Auch bestimmte mithilfe künstlicher Intelligenz erzeugte Texte, die gesellschaftlich relevante Themen behandeln, fallen unter die Transparenzvorgaben. Damit reicht der Anwendungsbereich über klassische Deepfakes und synthetische Bilder hinaus.

Veröffentlichen Unternehmen oder Organisationen kennzeichnungspflichtige Inhalte, muss deren künstliche Herkunft für den Nutzer erkennbar sein. Dies kann beispielsweise unmittelbar am Inhalt durch eine entsprechende Bildunterschrift oder einen sichtbaren Hinweis wie „KI-generiert“ erfolgen.

AI Act verlangt auch maschinenlesbare Kennzeichnung

Die Transparenzpflicht beschränkt sich nicht auf einen für Menschen sichtbaren Hinweis. Artikel 50 Absatz 2 des AI Act verpflichtet Anbieter entsprechender KI-Systeme dazu, dafür zu sorgen, „dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind“.

Damit verfolgt die Verordnung einen zweigleisigen Ansatz. Nutzer sollen die künstliche Herkunft bestimmter Inhalte erkennen können, während zugleich technische Verfahren eine automatisierte Identifizierung ermöglichen sollen.

Ausnahmen für Kunst und redaktionell geprüfte Texte

Nicht jeder KI-Einsatz führt zu einer Kennzeichnungspflicht. Offensichtlich künstlerisch, stilisiert oder fiktional gestaltete Inhalte, bei denen keine Verwechslungsgefahr mit einer realen Darstellung besteht, sind in der Regel anders zu beurteilen. Auch ausschließlich intern verwendete Inhalte fallen grundsätzlich nicht unter die entsprechenden Veröffentlichungspflichten.

Eine für Medien und andere publizierende Unternehmen wichtige Ausnahme betrifft Texte. Nach Artikel 50 Absatz 4 müssen KI-generierte Texte nicht entsprechend gekennzeichnet werden, wenn sie einer menschlichen redaktionellen Prüfung oder Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für ihre Veröffentlichung übernimmt.

Unternehmen müssen ihre Arbeitsabläufe überprüfen

Mit den neuen Vorgaben gewinnt die Dokumentation des KI-Einsatzes an Bedeutung. Unternehmen sollten erfassen, welche KI-Werkzeuge in welchen Bereichen eingesetzt werden, Verantwortlichkeiten festlegen und die Prüfung möglicher Kennzeichnungspflichten in ihre bestehenden Freigabeprozesse integrieren.

Besondere Aufmerksamkeit verdienen extern veröffentlichte Bilder, Videos, Audiodateien und Texte. Vor ihrer Veröffentlichung sollte geklärt werden, ob eine Transparenzpflicht besteht und wie eine erforderliche Kennzeichnung unmittelbar am Inhalt umgesetzt werden kann. Bestehen Zweifel über die Einordnung, kann eine freiwillige Kennzeichnung zusätzliche Transparenz schaffen.

Bildnachweis: © DRV