KI im Recruiting bleibt Hochrisiko: Was der AI Omnibus für Unternehmen wirklich ändert

Der AI Act der EU ist das weltweit erste Gesetz für Künstliche Intelligenz. Doch bevor es so richtig greift, soll es durch den „AI Omnibus“ entschärft werden. Was ändert sich jetzt für die Entwickler und Nutzer der Tools? Drei Tech-Lawyer haben das neue Gesetzespaket analysiert – das sind die fünf wichtigsten Änderungen.

Mit dem AI Act (auf Deutsch „KI-Verordnung“) wollte die Europäische Union der erste Wirtschaftsraum weltweit werden, der ein eigenes umfassendes Gesetz zur Regulierung von Künstlicher Intelligenz hat. Mit dem Beginn des KI-Hypes, der durch die Veröffentlichung von ChatGPT Ende 2022 ausgelöst wurde, begann die EU mit Hochdruck an der Verabschiedung des ohnehin schon geplanten AI Acts zu arbeiten.

Herausgekommen ist 2024 ein Gesetz, das in der Praxis viele Fragen aufwirft und deshalb weniger als zwei Jahre nach Inkrafttreten und noch vor Geltungsbeginn zentraler Regelungen wieder geändert wird. Im Mai dieses Jahres einigten sich die EU-Institutionen auf den sogenannten AI Omnibus, ein Gesetzespaket, das insbesondere den AI Act ändert.

Doch bringt der Omnibus die großen Veränderungen mit sich, die die Wirtschaft deutlich entlasten und Innovationen fördern? Das ist diskutabel. Der Omnibus verschafft den Unternehmen zwar mehr Zeit und reduziert in ausgewählten Bereichen eine Doppelregulierung. An vielen Stellen bleiben strenge Regelungen des AI Acts aber bestehen. Der Begriff „KI-System” bleibt unangetastet und damit unklar, ebenso wie wesentliche Verpflichtungen im Hochrisiko-KI-Bereich.

Nachfolgend stellen wir einige Änderungen des Omnibus vor und zeigen auf, welche Entlastungen sich tatsächlich ergeben.

Im Mittelpunkt des Omnibus steht eine Verschiebung der Geltung der zentralen Pflichten, insbesondere für Hochrisiko-KI-Systeme. Zu den Hochrisiko-KI-Systemen zählt der AI Act zum einen eine klar definierte Liste von Anwendungsfällen im Bereich reiner Software (standalone KI), wie etwa KI, die bei der Personalauswahl hilft. Zum anderen fällt in bestimmten sicherheitsrelevanten Produkten integrierte KI darunter (embedded KI), wie etwa in Aufzügen, Spielzeug oder Medizinprodukten. Ursprünglich sollten die entsprechenden Pflichten ab dem 2. August 2026 (standalone KI-Systeme, wie etwa Personalauswahl) beziehungsweise 2. August 2027 (embedded KI-Systeme, wie etwa bei Spielzeugen) gelten. Diese Fristen werden nun jeweils verschoben: um anderthalb Jahre bis zum 2. Dezember 2027 für standalone KI-Systeme und um ein Jahr bis zum 2. August 2028 für produktintegrierte KI-Systeme.