Dario Amodei: Anthropic-Chef fordert KI-Behörde nach Vorbild der Flugaufsicht

Der OpenAI-Rivale Anthropic spricht sich schon länger für eine härtere Regulierung der KI-Entwicklung aus. Jetzt fordert Firmenchef Dario Amodei sogar eine Notbremse für die Regierung.

Der Chef der KI-Firma Anthropic hat sich dafür ausgesprochen, dass Regierungen gefährliche Künstliche Intelligenz stoppen können sollten. Leistungsstarke KI-Modelle müssten auf Risiken geprüft werden, forderte Dario Amodei in einem Blogbeitrag.

Dabei solle es um Bereiche wie Cybersicherheit, Biowaffen und einen möglichen Verlust der Kontrolle über die Systeme gehen. Das umfasse auch eine automatisierte Weiterentwicklung der Software, die diese Risiken verstärken könnte.