Künstliche Intelligenz: Anthropic sperrt Zugang zu neuen KI-Modellen

Das US-Unternehmen Anthropic sperrt den Zugang zu seinen neuen KI-Modellen Fable 5 und Mythos 5 auf Anordnung der US-Regierung, um die nationale Sicherheit zu schützen. Mythos 5 entdeckt Sicherheitslücken in Software, was nützlich, aber auch gefährlich sein kann. Fable 5, eine abgesicherte Version, soll Sicherheitsmechanismen in Cybersicherheit und Biotechnologie bieten. Anthropic hält die Sperrung für überzogen und fordert transparente Verfahren bei potenziell gefährlicher KI-Software. Der Streit zwischen Anthropic und der US-Regierung dauert an, da das Unternehmen seine KI nicht für autonome Waffen oder Überwachungssysteme freigeben will.

Das US-Unternehmen Anthropic hat den Zugang zu seinen neuen KI-Modellen Fable 5 und Mythos 5 gesperrt. Es reagiere damit auf eine Anordnung der US-Regierung, teilte das Unternehmen in einer Stellungnahme mit. Die Regierung hatte gefordert, dass Ausländer keinen Zugang mehr zu den Modellen haben sollten – zum Schutz der nationalen Sicherheit. Gemeint seien damit auch Menschen ohne US-Staatsbürgerschaft, die sich in den USA aufhalten, sowie ausländische Mitarbeiter von Anthropic. In Reaktion auf die Anordnung sperrte das Unternehmen den Zugang zunächst für alle.

Die künstliche Intelligenz hinter Mythos 5 ist offenbar sehr gut darin, Sicherheitslücken in Software zu finden, auch solche, die über Jahrzehnte unentdeckt geblieben sind. Das kann hilfreich sein, weil Unternehmen und Behörden solche Schwachstellen dann schließen können. Gleichzeitig besteht aber die Sorge, dass eine solche KI auch für Cyberangriffe missbraucht werden könnte.

Mythos 5 ist die nichtöffentliche volle Version und soll nur von Behörden und ausgewählten Firmen eingesetzt werden, um deren Computersysteme sicherer zu machen. Das diese Woche veröffentlichte Modell Fable 5 basiert auf derselben Technologie. Bei ihm wurden aber einige Sicherheitsmechanismen eingebaut, etwa in den Bereichen Cybersicherheit und Biotechnologie.

Anthropic teilte mit, man habe von der Regierung bisher nur unvollständige Informationen erhalten. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens zur Entscheidung der Regierung geführt haben soll. Die US-Regierung befürchtet laut Anthropic offenbar, dass es eine Möglichkeit geben könnte, Sicherheitsbeschränkungen der KI zu umgehen. Diese Möglichkeit gibt es laut Anthropic auch bei Modellen anderer Anbieter. Deshalb halte die Firma die Sperrung für überzogen. Zudem seien die Sicherheitsvorkehrungen von Fable 5 gründlich getestet worden.

Mit Ihrer Registrierung nehmen Sie die Datenschutzerklärung zur