Künstliche Intelligenz: Anthropic fordert Pause bei Entwicklung von künstlicher Intelligenz

Anthropic fordert weltweite Pause in KI-Entwicklung, um gesellschaftliche Strukturen anzupassen. Führende KI-Konzerne sollen sich verlangsamen oder pausieren. Anthropic, hoch bewertetes Start-up, plant Börsengang und entwickelt Chatbot Claude sowie KI-Modell Mythos. Mythos soll Cyberlücken aufdecken, EU und US interessiert. Rechtsstreit mit US-Verteidigungsministerium wegen militärischer Nutzung von KI. Trump erlässt Dekret zur Überprüfung von KI-Modellen auf Sicherheitsrisiken.

Anthropic hat sich für eine weltweite Pause bei der Entwicklung leistungsstärkerer künstlicher Intelligenz ausgesprochen. Eine Verlangsamung der KI-Spitzenforschung wäre »wünschenswert«, damit »gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können«, teilte der Konzern mit.

Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, »die für alle überprüfbar wären«, hieß es.

Anthropic gilt als das derzeit wertvollste Start-up im Bereich künstlicher Intelligenz und hat zuletzt seinen Börsengang angemeldet. Der Entwickler ist vor allem für seinen Chatbot Claude bekannt, der von Unternehmen genutzt wird.

Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll. Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff auf Mythos, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten das System für Cyberangriffe nutzen.

Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic der US-Regierung verweigert hat. Der Konzern teilte mit, er wolle KI nicht zur »Massenüberwachung im Inland« oder in vollautonomen Waffensystemen einsetzen lassen. Die US-Regierung stufte Anthropic daraufhin als »Sicherheitsrisiko in der Lieferkette« ein, wogegen das Unternehmen sich juristisch wehrt.

Mit Ihrer Registrierung nehmen Sie die Datenschutzerklärung zur Kenntnis.

US-Präsident Donald Trump, der bei künstlicher Intelligenz lange auf Deregulierung gesetzt hatte, hat Anfang des Monats ein Dekret zur Überprüfung von KI-Modellen auf »nationale Sicherheitsrisiken« erlassen. Techkonzerne werden demnach zur »freiwilligen Zusammenarbeit« mit der Regierun