KI kann Inhalte so erzeugen oder manipulieren, dass sie täuschend echt wirken – wahrscheinlich auch in Ihrem Arbeitsalltag. Lange fehlten spezielle gesetzliche Vorgaben dafür, wann und wie KI-generierte oder manipulierte Inhalte gekennzeichnet werden müssen. Seit dem 2. August 2026 gelten europaweit neue Transparenzpflichten für bestimmte KI-Inhalte. Sie nehmen sowohl Anbieter als auch Betreiber von KI-Systemen in die Verantwortung. Das Ziel: Jeder soll auf den ersten Blick erkennen können, ob ein Inhalt mit KI erstellt, bearbeitet oder manipuliert wurde.
Wie muss KI in Zukunft gekennzeichnet werden?
Ob bei der Erstellung von Bildern, Texten und Videos oder in Form von Telefonassistenten und Chatbots: Künstliche Intelligenz kann so einige Arbeitsschritte verbessern, verkürzen und vereinfachen. Auch in Zukunft dürfen Sie auf die praktischen KI-Lösungen zurückgreifen. Der einzige Unterschied: Sie müssen die konkrete Nutzung kenntlich machen. Ob ein Hinweis erforderlich ist, hängt davon ab, wie die KI eingesetzt wird und welche Inhalte entstehen.
Anbieter generativer KI-Systeme wie Claude oder ChatGPT müssen dafür sorgen, dass deren Ausgaben – etwa Texte, Bilder, Audio- oder Videoinhalte – in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkannt werden können. Dafür kommen beispielsweise Metadaten, Wasserzeichen oder andere technische Markierungen infrage.
Für Betriebe und Unternehmen, die diese KI-Systeme einsetzen, sieht das Ganze schon wieder etwas anders aus. Die Pflichten können unabhängig von der Größe eines Betriebs gelten.
Was gilt wo?
Betriebe müssen nicht jeden mithilfe von KI erstellten Inhalt sichtbar kennzeichnen. Eine Offenlegung ist insbesondere dann erforderlich, wenn es sich um einen sogenannten „Deep Fake“ handelt oder wenn ein KI-generierter Text ohne menschliche Prüfung und redaktionelle Verantwortung verbreitet wird, um die Gesellschaft über eine Angelegenheit von öffentlichem Interesse zu informieren. Für Betriebe bedeutet das: KI-generierte Texte sollten vor ihrer Veröffentlichung immer sorgfältig auf Richtigkeit, Verständlichkeit und passende Formulierungen geprüft werden.
Telefon-KI und Chatbots
Setzt ein Betrieb eine Telefon-KI oder einen KI-basierten Chatbot ein, müssen Kundinnen und Kunden grundsätzlich spätestens zu Beginn der Interaktion darüber informiert werden, dass sie mit einem KI-System kommunizieren. Der Hinweis sollte unmittelbar in das Gespräch oder den Chat eingebunden und gut verständlich sein. Eine Ausnahme kann gelten, wenn für einen durchschnittlich informierten Menschen ohnehin offensichtlich ist, dass er mit einer KI interagiert.
Was zählt unter Deep Fake?
Ein besonderer Fall sind die sogenannten "Deep Fakes": KI-generierte Stimmen, die wie eine echte Person klingen, manipulierte Bilder eines realen Ereignisses oder auch veränderte Audio- oder Videoaufnahmen mit realitätsnahem Eindruck sowie gefälschte Videos einer realen Person gelten als Deep Fake und müssen entsprechend gekennzeichnet werden. Dabei ist nicht jede kleine Bildkorrektur automatisch ein Deep Fake: Wird beispielsweise lediglich die Helligkeit angepasst oder ein Bild technisch optimiert, entsteht dadurch in der Regel noch kein täuschend echter falscher Inhalt. Anders kann es aussehen, wenn ein Hintergrund so verändert wird, dass ein falscher Ort oder eine nie stattgefundene Situation real erscheint.
Entscheidend ist somit nicht allein, ob KI eingesetzt wurde, sondern ob das Ergebnis bei Betrachterinnen und Betrachtern einen falschen Eindruck von Authentizität oder Wahrheit hervorrufen kann.
Richtig kennzeichnen
Wenn eine Kennzeichnung erforderlich ist, muss sie klar, verständlich und spätestens beim ersten Kontakt mit dem Inhalt wahrnehmbar sein. Ein kaum lesbarer Hinweis am Rand eines Bildes oder eine kurze Einblendung am Ende eines Videos reichen nicht aus. Die EU stellt einheitliche Symbole zur Verfügung, die für die Kennzeichnung verwendet werden können.
Die wichtigsten Tipps für den Alltag
• Prüfen Sie, ob eine Kennzeichnungspflicht besteht. Besonders relevant sind Deep Fakes, direkte Interaktionen mit KI sowie ungeprüfte KI-Texte zu Angelegenheiten von öffentlichem Interesse.
• Kennzeichnen Sie betroffene Inhalte klar und gut sichtbar. Der Hinweis sollte spätestens beim ersten Kontakt mit dem Inhalt wahrnehmbar sein.
• Verwenden Sie verständliche Begriffe wie „KI-generiert“ oder „mit KI verändert“.
• Nutzen Sie bei Social-Media-Beiträgen bei Bedarf zusätzlich die Caption und den Alt-Text. Diese Angaben allein reichen jedoch nicht immer aus, wenn die Kennzeichnung unmittelbar am Inhalt erforderlich ist.
• Prüfen Sie KI-generierte Texte redaktionell und legen Sie intern fest, wer die Verantwortung für ihre Veröffentlichung übernimmt.
• Informieren Sie bei Telefon-KI und Chatbots direkt zu Beginn der Kommunikation über den Einsatz des KI-Systems.
• Dokumentieren Sie den Einsatz von KI, insbesondere bei öffentlich verbreiteten Bild-, Audio- und Videoinhalten.