KI-Verordnung: Europaparlament verbietet Nacktbildgeneratoren

Die KI-generierte Erstellung sexualisierter Bilder von Personen ohne deren Einwilligung wird in der EU verboten. Das beschloss das Europaparlament am 16. Juni 2026(öffnet im neuen Fenster) mit einer Mehrheit von 423 Ja-Stimmen bei 57 Gegenstimmen und 174 Enthaltungen. Die Regelung zu den KI-Deepfakes soll zum 2. Dezember 2026 in Kraft treten.

Die neue Regelung steht in Zusammenhang mit der Überarbeitung der Digitalgesetze in der EU, was als digitaler Omnibus (g+) bezeichnet wird. Dieser sieht auch eine Novelle der erst 2024 in Kraft getretenen KI-Verordnung vor.

Ursprünglich sollte die Novelle(öffnet im neuen Fenster) (PDF) vor allem geplante Umsetzungsfristen verschieben und die Anforderungen für mittelständische Betriebe lockern. Doch die weit verbreitete Nutzung von KI-generierten Deepfake-Nacktbildern mit der Hilfe von Elon Musks Chatbot Grok führte dazu, ein Verbot solcher KI-Systeme zu ergänzen.

Dazu wird der entsprechende Artikel 5 der KI-Verordnung erweitert. Dieser verbietet künftig "das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person dargestellt werden oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt wird, ohne dass die betreffende Person eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung zu dieser Erzeugung oder Manipulation erteilt hat". Ebenfalls verboten wird die KI-Nutzung für Darstellungen von Kindesmissbrauch.

Das Verbot gilt jedoch nur für KI-Systeme, deren Zweckbestimmung die Erzeugung oder Manipulation solcher Inhalte ist. Nicht als manipulativ verboten sind Systeme, bei denen "die Sichtbarkeit der dargestellten intimen Körperteile weder erhöht noch die Art der dargestellten eindeutig sexuellen Handlungen verändert" werden.

Was die Umsetzungsfristen betrifft, so gelten diese für eigenständige Hochrisiko-KI-Systeme erst vom Dezember 2027 an. Ursprünglich war der August 2027 vorgesehen. Vom 2. August 2028 an gelten die Vorgaben für KI-Systeme, "die als Sicherheitskomponenten eingebettet sind und unter sektorale Rechtsvorschriften der EU über Sicherheit und Marktüberwachung fallen".

Die Anwendung von Wasserzeichen zur Kennzeichnung von KI-generierten Inhalten tritt demnach am 2. Dezember 2026 in Kraft. Von diesem Zeitpunkt müssen KI-generierte Inhalte maschinenlesbar gekennzeichnet werden, um eine höhere Transparenz zu gewährleisten.

Darüber definiert die KI-Verordnung