KI-Bilder auf Instagram und Facebook kennzeichnen: Was der EU AI Act wirklich verlangt

Muss jedes KI-Bild auf Instagram und Facebook gekennzeichnet werden?

Nein. Nicht jedes Bild, das mit ChatGPT, DALL-E, Midjourney, Adobe Firefly oder einem anderen KI-System erstellt wurde, muss automatisch sichtbar als KI-generiert gekennzeichnet werden.

Für Personen und Unternehmen, die KI-Systeme beruflich oder geschäftlich einsetzen, ist insbesondere Artikel 50 Absatz 4 des AI Acts relevant. Danach müssen Betreiber eines KI-Systems offenlegen, wenn sie Bild-, Audio- oder Videoinhalte veröffentlichen, die als Deepfake einzustufen sind.

Ein Deepfake ist nach Artikel 3 des AI Acts ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und dabei fälschlicherweise authentisch oder wahr erscheinen kann.

Die Europäische Kommission nennt dafür drei Voraussetzungen, die gemeinsam erfüllt sein müssen:

1. Der Inhalt weist eine hohe Ähnlichkeit mit dem dargestellten Gegenstand auf.
2. Die dargestellte Person, das Objekt, der Ort oder das Ereignis existiert, könnte existieren oder hätte plausibel existieren können.
3. Der Inhalt kann fälschlicherweise authentisch oder wahr erscheinen.

Bei der Bewertung spielen auch der Veröffentlichungskontext, die Aussage des Bildes und die Erwartungen des Publikums eine Rolle. Ein Bild wird also nicht allein deshalb zum kennzeichnungspflichtigen Deepfake, weil bei seiner Erstellung irgendeine Form von KI verwendet wurde.

Die Einzelheiten erläutert die Europäische Kommission in ihren Fragen und Antworten zu Artikel 50 des AI Acts.

Für wen gilt die Verpflichtung?

Der AI Act verwendet den Begriff „Betreiber“ beziehungsweise auf Englisch „Deployer“. Damit ist eine natürliche oder juristische Person, Behörde oder andere Stelle gemeint, die ein KI-System in eigener Verantwortung verwendet.

Ausgenommen ist die Verwendung im Rahmen einer persönlichen, nicht beruflichen Tätigkeit. Wer KI dagegen für ein Unternehmen, eine Organisation, eine Marke oder im Rahmen einer beruflichen Tätigkeit einsetzt, kann als Betreiber unter die Regelungen fallen.

Das kann beispielsweise für Unternehmen, Agenturen, professionelle Creator, Onlineshops oder Selbstständige relevant sein, die KI-generierte oder KI-manipulierte Bilder auf Instagram oder Facebook veröffentlichen.

Die offizielle Definition findet sich in Artikel 3 des EU AI Acts.

Welche KI-Bilder müssen sichtbar gekennzeichnet werden?

Für die sichtbare Offenlegung durch den Betreiber sind vor allem Bilder relevant, die als Deepfake gelten. Dazu können beispielsweise realistisch wirkende Darstellungen gehören, bei denen bestehende Personen, Orte, Objekte oder Ereignisse durch KI erzeugt oder wesentlich verändert wurden und das Ergebnis fälschlicherweise echt wirken kann.

Die EU-Kommission nennt auf ihrer Informationsseite zu den offiziellen KI-Icons unter anderem folgende Anwendungsbeispiele:

• vollständig KI-generierte Deepfake-Inhalte mit Politikern oder fiktiven Ereignissen,
• ein Gesichtstausch, bei dem das Gesicht einer Person in einer echten Aufnahme durch das Gesicht eines Politikers ersetzt wird,
• eine authentische Aufnahme einer leeren Wohnung, die mithilfe von KI digital eingerichtet wird.

Ob im Einzelfall tatsächlich ein Deepfake vorliegt, hängt immer von den gesetzlichen Kriterien und vom konkreten Kontext ab.

Was gilt für künstlerische oder satirische Inhalte?

Auch Deepfakes, die Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werkes sind, fallen nicht vollständig aus der Transparenzpflicht heraus.

Für solche Inhalte erlaubt Artikel 50 jedoch eine angemessene Form der Offenlegung, die die Darstellung oder den Genuss des Werkes nicht beeinträchtigt. Die Kennzeichnung darf in diesem Fall also zurückhaltender umgesetzt werden, muss das Vorhandensein des KI-generierten oder manipulierten Inhalts aber weiterhin offenlegen.

Wie sollte ein KI-Bild gekennzeichnet werden?

Wenn eine Offenlegung erforderlich ist, muss sie spätestens bei der ersten Wahrnehmung des Bildes durch die betrachtende Person erfolgen. Sie muss klar, unterscheidbar und zugänglich sein.

Die Europäische Kommission empfiehlt für die Darstellung ihrer KI-Icons insbesondere:

• Die Kennzeichnung sollte deutlich wahrnehmbar und unterscheidbar sein.
• Sie sollte nicht von anderen Einblendungen oder Bedienelementen verdeckt werden.
• Sie sollte eine gut sichtbare Größe und ausreichend Kontrast besitzen.
• Begleitende Texte sollten einfache, verständliche Sprache verwenden.
• Unnötige Fachbegriffe und schwer verständliche Abkürzungen sollten vermieden werden.
• Die Kennzeichnung sollte möglichst direkt in den Inhalt eingebettet sein.
• Sie sollte auch sichtbar bleiben, wenn das Bild heruntergeladen oder erneut geteilt wird.

Eine Einblendung durch die Benutzeroberfläche kann laut EU-Kommission eine mögliche Alternative zur direkten Einbettung sein. Sie muss aber eine gleichwertige Offenlegung ermöglichen.

Daraus folgt für Instagram und Facebook: Eine direkt in das Bild eingefügte Kennzeichnung kann besonders hilfreich sein, weil sie gemeinsam mit dem Bild erhalten bleibt. Ob eine konkrete Plattformkennzeichnung allein sämtliche Anforderungen erfüllt, wird von den offiziellen EU-Quellen nicht pauschal bestätigt.

Die zusammengefassten Darstellungsempfehlungen veröffentlicht die Kommission auf ihrer Seite zu den EU-Icons für die Kennzeichnung KI-generierter Inhalte.

„KI-generiert“ oder „KI-bearbeitet“ – welche Kennzeichnung passt?

Die EU unterscheidet bei ihren freiwillig verwendbaren Icons zwischen vollständig KI-generierten und teilweise KI-modifizierten Inhalten.

Vollständig KI-generiert

Eine Kennzeichnung wie „KI-generiert“ oder „AI Generated“ passt zu einem kennzeichnungspflichtigen Inhalt, der vollständig durch ein KI-System erzeugt wurde und keine von Menschen erstellten Bestandteile enthält – abgesehen von der Eingabe des Prompts.

Teilweise KI-modifiziert

Eine Kennzeichnung wie „KI-bearbeitet“, „KI-modifiziert“ oder „AI Modified“ passt zu einem ursprünglich von Menschen erstellten Inhalt, der durch KI so verändert wurde, dass daraus ein kennzeichnungspflichtiger Deepfake entstanden ist.

Wichtig: Die Verwendung eines bestimmten Textes oder eines EU-Icons stellt für sich genommen noch keine automatische Rechtskonformität her. Die EU-Icons sind freiwillig. Verantwortlich für eine ausreichende Offenlegung bleibt der jeweilige Betreiber.

Reicht eine maschinenlesbare Kennzeichnung aus?

Nein, jedenfalls nicht für die Offenlegung eines Deepfakes gegenüber den Menschen, die den Beitrag sehen.

Artikel 50 unterscheidet zwischen zwei Verantwortungsbereichen:

• Anbieter generativer KI-Systeme müssen bestimmte KI-Ausgaben maschinenlesbar markieren und als künstlich erzeugt oder manipuliert erkennbar machen.
• Betreiber, die kennzeichnungspflichtige Deepfakes veröffentlichen, müssen diese für Menschen klar und verständlich offenlegen.

Die Europäische Kommission stellt ausdrücklich klar, dass Betreiber sich bei einem Deepfake nicht ausschließlich auf eine unsichtbare oder maschinenlesbare Markierung verlassen können. Die Offenlegung muss ohne besondere technische Hilfsmittel wahrnehmbar sein, beispielsweise durch ein sichtbares oder bei Audioinhalten hörbares Label.

Praktische Checkliste vor der Veröffentlichung

Bevor du ein KI-generiertes oder KI-bearbeitetes Bild auf Instagram oder Facebook veröffentlichst, kannst du folgende Punkte prüfen:

1. Wird das KI-System persönlich oder im Rahmen einer beruflichen beziehungsweise geschäftlichen Tätigkeit verwendet?
2. Ähnelt das Bild einer bestehenden oder plausibel existierenden Person, einem Objekt, Ort oder Ereignis?
3. Kann das Bild von Betrachtern fälschlicherweise für authentisch oder wahr gehalten werden?
4. Wurde das Bild vollständig durch KI erzeugt oder lediglich teilweise mit KI verändert?
5. Ist eine erforderliche Kennzeichnung bereits bei der ersten Wahrnehmung klar erkennbar?
6. Wird die Kennzeichnung von anderen Elementen oder Plattform-Overlays verdeckt?
7. Bleibt der Hinweis sichtbar, wenn das Bild heruntergeladen oder erneut geteilt wird?
8. Ist die Formulierung einfach, verständlich und ausreichend kontrastreich?

Häufige Fragen

Fazit

Wer KI-Bilder auf Instagram oder Facebook veröffentlicht, muss nicht automatisch jedes Bild als KI-generiert kennzeichnen. Im Mittelpunkt des EU AI Acts stehen vor allem Deepfakes: realistisch wirkende KI-Inhalte, die bestehende oder plausibel existierende Personen, Objekte, Orte oder Ereignisse darstellen und dabei fälschlicherweise echt oder wahr erscheinen können.

Wenn eine Kennzeichnung erforderlich ist, sollte sie klar, gut sichtbar und bereits bei der ersten Wahrnehmung verständlich sein. Eine direkt in das Bild eingefügte Kennzeichnung kann dabei helfen, dass der Hinweis auch beim Herunterladen und erneuten Teilen erhalten bleibt.