Marktbericht: Anthropic plädiert für weltweite KI-Pause

Das Tech-Unternehmen Anthropic warnt davor, dass der Mensch die Kontrolle über Künstliche Intelligenz verliert. Es sei sinnvoll, die Entwicklung von KI-Software vorerst zu unterbrechen - allerdings müssten alle KI-Firmen mitmachen.

Was die berühmten Geister sind, die man rief und dann nicht mehr los wird, könne Künstliche Intelligenz für die Börse und die Menschheit werden. Davor warnt ein Unternehmen, das eins der erfolgreichsten KI-Modelle entwickelt hat, mit KI Milliarden-Umsätze macht und erstmals in diesem Quartal damit Geld verdienen will: Anthropic.

Das Unternehmen, das den ChatBot Claude entwickelt hat, fordert eine Pause bei der KI-Entwicklung. Das Ziel: gesellschaftliche Strukturen anpassen, Forschung vorantreiben, damit die KI immer im Interesse der Menschen agiert und nicht in eigenen.

Das wäre ein enormer Schritt, weil ein Einvernehmen aller großen KI-Entwickler weltweit notwendig wäre. Anthropic räumt ein: Dazu fehle es in der Branche an Bereitschaft. Vielmehr würden sich Unternehmen dabei überbieten, wie sie Hunderte Milliarden in Infrastruktur wie Chips und Rechenzentren investieren.

Anthropic will nun mit anderen Entwicklern ein Kontrollsystem entwickeln. Auslöser für die Warnung von Anthropic ist der schnelle Fortschritt, den KI Modelle erzielen. Vor allem werden sie immer besser daran, sich selbst weiterzuentwickeln. Damit steige das Risiko, dass der Mensch die Kontrolle über KI verliert.

Anthropics KI Claude Mythos findet Softwarelücken im Rekordtempo. Banken und Aufseher sind alarmiert. mehr

An den Börsen weltweit verpuffen die Forderungen allerdings. Nach einem Durchhänger am Donnerstag steigen einige KI-Aktien heute wieder.

Zu Wochenbeginn hatte Anthropic bekanntgegeben, dass es seinen Börsenprospekt vertraulich bei der Börsenaufsicht SEC eingereicht hat. Das ist ein notwendiger Schritt, um an die Börse zu gehen. Die Börsenaufsicht prüft nun die Angaben.

Das KI-Unternehmen Anthropic hat Unterlagen bei der US-Börsenaufsicht eingereicht. mehr

Der Börsengang könnte einer der drei größten weltweit in diesem Jahr werden. Die KI-Firma wird - im Zuge einer Finanzierungsrunde - derzeit mit fast einer Billion Dollar bewertet. Bei der vorangegangenen Finanzierung im Februar waren es noch gut 400 Milliarden Dollar.

Auch Wettbewerber OpenAI will das Momentum nutzen und sich an der Börse notieren lassen. Elon Musk wird sein Raumfahrt-Unternehmen SpaceX voraussichtlich in der kommenden Woche an die Börse bringen. Die Aktien sollen zu 135 Dollar pro Stück ausgegeben werden. Das Unternehmen wird mit knapp 1,8 Billionen Dollar bewertet. G