Kennzeichnung
von
KI-INhalten.
Kennzeichnung
von
KI-INhalten.
von
Ab dem 02.08.2026 gelten die Transparenzpflichten der KI-Verordnung. Aber wann und wie muss man KI generierte Inhalte kennzeichnen? Die EU-Kommission gibt eine Handreichung und stellt EU-Icons zur Kennzeichnung bereit.
Kennzeichnung von KI-Inhalten
Ab dem 02.08.2026 greifen die Transparenzpflichten der KI-Verordnung. Demnach müssen bestimmte KI-generierte oder mithilfe künstlicher Intelligenz veränderte Inhalte als solche gekennzeichnet werden. Kennzeichnung bedeutet in diesem Fall, dass für Menschen erkennbar gemacht wird, dass ein Inhalt von künstlicher Intelligenz erzeugt oder verändert wurde.
Die KI-Verordnung verteilt diese Aufgabe auf zwei Rollen. Anbieter von KI-Systemen müssen ihre Ausgaben technisch markieren, also maschinenlesbar über Wasserzeichen und Metadaten, damit sich KI-Inhalte später erkennen lassen. Betreiber, also Personen, die mit KI erzeugte oder veränderte Inhalte veröffentlichen, müssen diese in bestimmten Fällen für das Publikum sichtbar oder hörbar offenlegen. In diesem Beitrag geht es nur um diese Pflicht, die jedes Unternehmen und jede Person treffen kann, die solche Inhalte verbreitet.
Welche Inhalte müssen überhaupt gekennzeichnet werden
Nicht jeder KI-Inhalt unterliegt dieser Pflicht. Erfasst sind zwei Kategorien. Die erste Kategorie betrifft sogenannte Deepfakes. Dies sind durch KI erzeugte oder veränderte Bild-, Ton- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und für Betrachter fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden. Die zweite Kategorie betrifft durch KI erzeugte oder veränderte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dies gilt jedoch nur, wenn dieser Text keiner menschlichen Überprüfung oder redaktionellen Kontrolle unterlag und keine natürliche oder juristische Person die redaktionelle Verantwortung dafür übernommen hat.
Die drei neuen EU-Icons
Die EU-Kommission hat im Rahmen des Verhaltenskodex zur Kennzeichnung und Beschriftung von KI-generierten Inhalten nun drei Icons zur Kennzeichnung bereitgestellt.
Dieses Icon zeigt nur das Kürzel AI und dient als Grundbaustein, wenn KI an der Erstellung beteiligt war oder ein eigenes Textlabel beziehungsweise eine interaktive zweite Ebene umgesetzt werden soll. Es kommt etwa zum Einsatz, wenn ein Deepfake-Video mit einem ergänzenden Textlabel wie „voices generated with“ vor dem Icon versehen wird.
Dieses Icon kennzeichnet Inhalte, die vollständig von KI erzeugt wurden, ohne menschlich geschaffene Bestandteile und ohne menschliche redaktionelle Kontrolle abgesehen vom Prompting. Es eignet sich etwa für vollständig KI-generierte Deepfake-Videos, rein KI-komponierte Musik oder Kunst sowie KI-generierte Nachrichtenzusammenfassungen.
Dieses Icon kennzeichnet bereits bestehende, von Menschen geschaffene Inhalte, die teilweise mit KI verändert wurden und dadurch zu einem Deepfake oder zu Text über Angelegenheiten von öffentlichem Interesse werden. Typische Fälle sind das Austauschen eines Gesichts in einer echten Fotografie oder das nachträgliche Möblieren einer authentischen Aufnahme einer leeren Wohnung.
Sie können ZIP-Dateien mit allen Symbolen in allen Varianten im SVG– und PNG-Format herunterladen.
Sind die neuen EU-Icons verpflichtend?
Nein, die EU-Icons sind lediglich ein Vorschlag und keine Pflicht. Verpflichtend ist allein die Offenlegung selbst. Der Verhaltenskodex, der die Icons bereitstellt, ist freiwillig und bindet nur seine Unterzeichner. Selbst für diese gilt, dass die Befolgung des Kodexes keinen abschließenden Nachweis der Rechtskonformität darstellt. Wer den Kodex unterzeichnet, verpflichtet sich, die Offenlegung entweder über das EU-Icon oder ein gleichwertiges Icon bzw. Label umzusetzen, das den Gestaltungs- und Platzierungsvorgaben entspricht. Das EU-Icon ist also auch für Unterzeichner nur eine von mehreren zulässigen Umsetzungsformen. Es bietet einen einfachen und einheitlichen Weg zur Pflichterfüllung, ersetzt aber nicht die eigenständige Verantwortung des Betreibers. Es ist jedoch sinnvoll, diese Icons zu benutzen, da man hier stets argumentieren kann, dass sie den Anforderungen genügen.
Die übergreifenden Platzierungsgrundsätze
Für alle Medienarten gelten die gleichen Grundsätze. Die Kennzeichnung muss eine sofortige Erkennung ohne Interaktion und ohne anhaltende Aufmerksamkeit ermöglichen. Sie muss mindestens so lange sichtbar bleiben, bis sie unter normalen Wahrnehmungsbedingungen bemerkt werden kann. Zudem muss sie unmittelbar in den Inhalt eingebettet sein, sofern keine gleichwertige Alternative, wie etwa eine Overlay-Einblendung in der Benutzeroberfläche, verfügbar ist. Sie muss spätestens im Moment der ersten Wahrnehmung klar erkennbar und unterscheidbar sein.
Für Deepfakes, die Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks sind, gelten die allgemeinen Platzierungsgrundsätze nicht. An ihre Stelle tritt ein gelockertes Regime, das die Offenlegung mit dem ungestörten Genuss des Werks in Einklang bringt. Die künstliche Herkunft muss zwar weiterhin offengelegt werden, aber so, dass die Darstellung, die normale Verwertung und der Genuss des Werks nicht beeinträchtigt werden. Die Offenlegung muss klar, unterscheidbar und zugänglich sein und spätestens bei der ersten Wahrnehmung des Werks erfolgen, etwa in begleitenden Notizen, in der Beschreibung oder im Vor- oder Abspann.
Wie die Offenlegung konkret platziert wird, richtet sich nach dem jeweiligen Verbreitungsweg. Bei digitalen oder interaktiven Formaten, etwa auf Webseiten, in Apps oder anderen Benutzeroberflächen, darf das Icon oder Label außerhalb, aber angrenzend an das Bild-, Video- oder Audiofeld stehen oder in Bedienelemente eingebettet werden, solange es ohne zusätzliche Handlung des Nutzers wahrnehmbar bleibt. Denkbar sind kurze Hinweise, ein dezentes Icon, das beim Anklicken oder Überfahren weitere Informationen zeigt, oder ein angrenzender Disclaimer. Bei nicht-digitaler Bereitstellung, etwa in Ausstellungen, Galerien, Kinos, auf Festivals oder bei Werken auf physischen Datenträgern, genügt eine Offenlegung am Eintritts- oder Verkaufspunkt, beispielsweise auf einem Ausstellungsflyer, einer Eintrittskarte oder der Verpackung.
Bild
Bei Bildern ist eine visuelle Offenlegung möglich. Das Icon oder ein vergleichbares Label sollte ohne überlagernde Elemente an einer geeigneten Stelle platziert werden, z.B. in der oberen rechten Ecke. Wichtig ist, dass das gewählte Label klar, zugänglich und verständlich ist.
Video
Auch bei Videos ist eine visuelle Offenlegung möglich, wobei jedoch zeitliche Zusatzanforderungen gelten. Das Label muss zu Beginn des Videos angezeigt werden und, soweit möglich, in regelmäßigen Abständen wiederholt werden. Mindestens nach Unterbrechungen, wie beispielsweise Werbepausen, soll es angezeigt werden. Damit wird dem Umstand Rechnung getragen, dass verschiedene Personen ein Video zu unterschiedlichen Zeitpunkten sehen, etwa bei Live-Inhalten, und dass Ausschnitte weiterverbreitet werden. Soweit möglich, wird empfohlen, das Label durchgehend oder zumindest während des manipulierten Abschnitts anzuzeigen. Eine ausdrücklich getrennte, strengere Regel allein für Live-Videos besteht bislang nicht.
Ton
Reiner Audioinhalt ist wohl der einzige Fall, in dem visuelle Offenlegung nicht möglich ist. Maßgeblich ist hier nicht, dass ein Ton von KI stammt, sondern ob er unter die Deepfake-Definition fällt, also einer real existierenden Person, Stimme oder einem realen Ereignis täuschend ähnelt. Greift die Pflicht, ist zu Beginn ein kurzer hörbarer Hinweis in einfacher Sprache erforderlich, entweder in der Sprache des Inhalts oder auf Englisch. Bei langformatigen oder live ausgespielten Inhalten soll dieser Hinweis durch Erinnerungen in regelmäßigen Abständen ergänzt werden, mindestens nach Unterbrechungen. Steht zusätzlich ein Bildschirm zur Verfügung, etwa im Fahrzeug oder auf einem Smartphone, ist neben dem hörbaren Hinweis zusätzlich eine visuelle Offenlegung über das Icon bereitzustellen. Anstelle eines gesprochenen Hinweises sind auch andere hörbare Lösungen wie ein Earcon (ein kurzes, gestaltetes Tonsignal, das eine bestimmte Bedeutung transportiert) zulässig, sofern sie von Aufklärungsmaßnahmen begleitet werden.
KI-Musik
Für KI-generierte Musik verläuft die Prüfung in mehreren Schritten. Zunächst ist zu fragen, ob überhaupt ein Deepfake vorliegt. Rein KI-komponierte Musik ohne Bezug zu einer realen Person oder Stimme erfüllt die Deepfake-Definition nicht und löst nach dem Kodex schon keine Kennzeichnungspflicht des Betreibers aus. Auf die Ausnahme für künstlerische Werke kommt es dann nicht an, weil es keine Pflicht gibt, von der zu befreien wäre. Anders liegt es, wenn eine real existierende Stimme nachgebildet oder eine echte Aufnahme so verändert wird, dass sie täuschend echt einer realen Person zugeschrieben wird. Dies dürfte der Regelfall sein. Dann liegt ein Audio-Deepfake vor und die Offenlegungspflicht greift.
Bildet dieser Audio-Deepfake zugleich einen Teil eines offensichtlich künstlerischen Werks, beschränkt sich die Pflicht auf eine angemessene Offenlegung, die den Genuss des Werks nicht beeinträchtigt. Der hörbare Hinweis muss dann nicht zwingend in den Song eingebettet sein, sondern kann etwa in der Trackbeschreibung, im Abspann oder am Einstiegspunkt erfolgen. Bei Musik, die über Streaming-Dienste wie Spotify oder vergleichbare Plattformen veröffentlicht wird, lässt sich wohl regelmäßig ein künstlerisches Werk annehmen, sodass dieses erleichterte Regime greifen dürfte.
Text
Bei veröffentlichtem Text über Angelegenheiten von öffentlichem Interesse ist visuelle Offenlegung möglich und verpflichtend, sofern keine Ausnahme greift. Das Label wird an klar erkennbarer Stelle platziert, beispielsweise über oder am Anfang des Textes, nahe der Überschrift oder im Kopfbereich. Soweit angemessen darf nur der KI-erzeugte oder veränderte Teil gekennzeichnet werden. Bei sehr kurzem Text, bei dem eine Kennzeichnung im Text selbst die Lesbarkeit beeinträchtigen würde, bleibt die Pflicht bestehen, darf aber über einen kontextuellen Hinweis in der Benutzeroberfläche erfolgen.
Die Pflicht entfällt für Text, der eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen hat und für dessen Veröffentlichung eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.
Fazit
Die von der EU bereitgestellten Icons sind eine sinnvolle Hilfestellung und ersparen jedem Anwender die Entwicklung einer eigenen Lösung.
Zugleich bleiben jedoch einige Fragen offen. Hauptbestandteil des Labels ist das englische Kürzel „AI“. Die Verwendung der jeweiligen Landessprache ist nur vorgesehen, wenn nationale Sprachvorschriften das Englische ausschließen. Ob das englische Kürzel „AI“ in allen Mitgliedstaaten der EU ausreicht und verstanden wird, bleibt abzuwarten. Eine echte mehrsprachige Anpassung sieht der Kodex bislang nicht vor.
Für reinen Ton fehlt eine fertige, EU-weite Audiolösung sowie eine reine Audio-Version des Icons; beide befinden sich wohl noch in der Entwicklung. Die zeitlichen Vorgaben für Videos bleiben mit Formulierungen wie „soweit möglich“ teils vage.
Wir beraten
Sie gerne zum
tHEMA ki!
