Mythos-KI von Anthropic: Anthropic veröffentlicht einen Teil von umstrittenem KI-Modell

Das US-Unternehmen Anthropic veröffentlichte die erste Version seines KI-Modells »Mythos«, wobei einige Funktionen eingeschränkt wurden. Deutsche Sicherheitspolitiker warnten vor möglichen Cyberangriffen durch Kriminelle oder staatliche Akteure. Die KI-Anwendung »Mythos« kann Sicherheitslücken mit beispielloser Geschwindigkeit und Präzision aufdecken. Anthropic hatte zuvor eine weltweite Pause bei der Entwicklung leistungsstärkerer künstlicher Intelligenz gefordert. Um dies umzusetzen, müssten führende KI-Konzerne Regeln für eine gemeinsame Verlangsamung oder Pause festlegen.

Das US-amerikanische Unternehmen Anthropic hat eine erste Version seines KI-Modells »Mythos« veröffentlicht. Einige Funktionen der umstrittenen Modellversion »Fable 5« wurden jedoch für die breite Öffentlichkeit eingeschränkt, wie Anthropic mitteilte.

Deutsche Verfassungsschützerinnen und Sicherheitspolitiker hatten im Vorfeld gewarnt, Kriminelle oder staatliche Akteure könnten »Mythos« für Cyberangriffe nutzen, etwa auf Banken oder Energieanlagen.

Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte die neue KI-Version von »Mythos« erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und ausgewählte Unternehmen.

Zuvor hatte die Firma Anthropic sich für eine weltweite Pause bei der Entwicklung leistungsstärkerer künstlicher Intelligenz ausgesprochen. Eine Verlangsamung der KI-Spitzenforschung wäre »wünschenswert«, damit »gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können«, hieß es.

Um eine tatsächliche Pause einzuführen, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür brauche es überprüfbare Regeln.

Anthropic ist das derzeit wertvollste Start-up im Bereich der künstlichen Intelligenz. Bekannt ist die Firma vor allem für den Chatbot Claude, der von Unternehmen genutzt wird.