AI Act: EU-Kommission veröffentlicht Verhaltenskodex für KI-Inhalte

KI-Inhalte sollen in der EU künftig nicht nur sichtbar gekennzeichnet, sondern auch maschinell überprüfbar werden. Der nun veröffentlichte Verhaltenskodex(öffnet im neuen Fenster) der EU-Kommission beschreibt dafür einen gemeinsamen Rahmen für Unternehmen, die generative KI entwickeln, anbieten oder einsetzen und dabei die Transparenzpflichten aus Artikel 50 des AI Act erfüllen müssen.

Die rechtliche Grundlage dafür ist Artikel 50 des AI Act. Er muss ab dem 2. August 2026 vollständig umgesetzt werden und schreibt vor, dass Ausgaben generativer Systeme maschinenlesbar markiert und später als künstlich erzeugt oder manipuliert erkennbar sein müssen. Für Deepfakes und bestimmte KI-Texte kommen Offenlegungspflichten gegenüber Nutzern hinzu.

Inhaltlich trennt das Papier die Wertschöpfungskette in zwei Rollen. Zuerst geht es um Entwickler und Anbieter generativer KI-Systeme, die künstlich erzeugte oder veränderte Inhalte technisch markieren müssen. Danach folgen Anwender und Betreiber, die solche Inhalte veröffentlichen und gegenüber Menschen offenlegen müssen.

Für Anbieter setzt der Kodex direkt bei den Ausgaben ihrer Systeme an. Audio, Bilder, Videos und Texte sollen maschinenlesbar markiert werden, damit sie später als künstlich erzeugt oder verändert erkannt werden können. Weil nach dem Stand der Technik kein einzelnes Verfahren die Anforderungen an Wirksamkeit, Interoperabilität, Robustheit und Verlässlichkeit vollständig erfüllt, setzt der Kodex für die meisten online verbreiteten Inhalte auf mehrere Ebenen.

Eine Ebene bilden dabei digital signierte Metadaten mit Zeitstempel, sofern das jeweilige Format solche Angaben tragen kann. Hinzu kommen unsichtbare Wasserzeichen, die im Inhalt selbst stecken und sich nur schwer davon trennen lassen. Bei frei formulierten Texten, die keine klassischen Metadaten mitführen, reicht diese Wasserzeichenebene grundsätzlich aus. Bei mehr als 200 Texteinheiten soll sie ebenfalls eingesetzt werden, auch wenn die Erkennung weniger verlässlich sein kann.

Für solche Textwasserzeichen dürfen Anbieter den Zugang zu bestimmten Prüfwerkzeugen vorübergehend auf verifizierte Fachnutzer beschränken. Ergänzend erlaubt der Kodex inhaltsbasierte Erkennungsmerkmale (Fingerprints) oder Protokollierung, sofern Datenschutz, Sicherheit und Medienfreiheit gewahrt bleiben. Zugleich sollen Anbieter keine Werkzeuge vertreiben oder bewerben, die Markierungen umgehen. Außerdem sollen Behörden, Medien, Faktenprüfer, Forscher und zivilgesellschaftliche Stellen die Werkzeuge kostenfrei und ohne Mengenlimit nutzen können.