Mit dem Inkrafttreten der KI-Verordnung (KI-VO) gilt für von Künstlicher Intelligenz (KI) erstellte Inhalte ab dem 2. August 2026 eine allgemeine KI-Kennzeichnungspflicht.
Das bedeutet, dass Texte, Bilder und Videos klar und unmissverständlich als KI-generiert ausgewiesen werden müssen. Die Pflicht hierfür liegt jedoch in den meisten Fällen bei den Anbietern von KI-Tools. Bei sogenannten Deepfakes oder Inhalten zu Themen von besonderem öffentlichen Interesse gibt es zusätzlich eine Pflicht zur sichtbaren Kennzeichnung, die auch Nutzer von KI-Tools betrifft.
Bei Verstößen drohen hohe Bußgelder, die bis zu mehreren Millionen Euro betragen können!
Hintergrund & Inhalt der KI-Kennzeichnungspflicht
KI-Tools wie ChatGPT oder Midjourney können mittlerweile Inhalte generieren, die sich zumindest auf den ersten Blick kaum von durch Menschenhand geschaffenen Inhalten unterscheiden.
Ist beispielsweise nicht mehr nachvollziehbar, welche Bilder echt und welche KI-generiert sind, kann dies verheerende Folgen nach sich ziehen.
Als Konsequenz hat die EU im Rahmen der KI-VO einen klaren rechtlichen Rahmen geschaffen, der zur Kennzeichnung von KI-generierten Inhalten verpflichtet. Genauer ist dies im Artikel 50 der KI-VO geregelt.
Die Kennzeichnungspflicht gilt dabei nur für Inhalte, die komplett oder maßgeblich durch eine KI erstellt wurden. Für Inhalte, die nach der Erstellung durch einen Menschen maßgeblich verändert oder die von der KI lediglich überarbeitet werden, gilt eine Ausnahme. Sie müssen dementsprechend auch nicht als KI-generiert ausgewiesen werden.
Eine weitere Ausnahme besteht für Inhalte, die lediglich für interne oder private Zwecke erstellt werden, also nicht für die Veröffentlichung bestimmt sind.
Wichtig für das Verständnis ist, dass die Pflichten in erster Linie bei den Anbietern von KI-Tools liegen und nicht bei den Nutzern. Die Inhalte müssen also bereits bei der Generierung als KI-generiert markiert werden. Dies muss auch nicht auf den ersten Blick sichtbar sein, sondern kann etwa über eine digitale Wassermarke oder Hinweise in den Metadaten geschehen, die maschinenlesbar sind.
Achtung: In einigen Fällen sind Sie auch bei der Veröffentlichung zu Hinweisen verpflichtet!
Welche Inhalte muss ich als Nutzer als KI-generiert kennzeichnen?
Als Nutzer von KI-Tools sind Sie generell nicht dazu verpflichtet, Inhalte wie Texte oder Bilder sichtbar als KI-generiert auszuzeichnen. Sie sollten allerdings auch darauf verzichten, die automatisch generierten digitalen Wassermarken bzw. Metadaten Ihres KI-Tools im Nachhinein zu entfernen.
Haben Sie selbst ein KI-Programm erstellt, dass Ihnen Inhalte generiert, müssen Sie dafür Sorge tragen, dass diese entsprechend maschinenlesbar als KI-generiert ausgewiesen sind. Dies muss aber ebenfalls nicht für menschliche Nutzer sichtbar geschehen.
Es gibt jedoch wichtige Ausnahmen: Eine sichtbare Kennzeichnung ist immer dann erforderlich, wenn KI-generierte Inhalte täuschend echt reale Personen darstellen (sogenannte Deepfakes) oder wenn sie Themen von öffentlichem Interesse betreffen – etwa politische, gesellschaftliche oder wirtschaftliche Informationen.
Sie müssen hier also zusätzlich immer sichtbar angeben, dass es sich um KI-generierte Inhalte handelt, wenn dies zutrifft.
Darüber hinaus müssen Nutzer, die mit KI-Systemen wie Chatbots interagieren, darauf hingewiesen werden, dass es sich um eine KI handelt. Zwar sind auch von dieser Pflicht vor allem die Anbieter der entsprechenden Tools betroffen, allerdings rate ich Ihnen, den Hinweis auch unabhängig von diesen gut sichtbar zu platzieren, um sich möglichen Ärger zu ersparen.
