Claude fordert Nutzer auf, schlafen zu gehen: Was steckt dahinter?

Nutzer:innen berichten, dass der Chatbot während der Sitzung immer wieder „Gute Nacht“ sagt – teilweise mitten am Tag. Expert:innen finden unterschiedliche Erklärungsansätze für dieses seltsame Verhalten.

Anthropics Chatbot Claude zeigt ein seltsames Verhalten: Wie Fortune berichtet, soll er Nutzer:innen offenbar immer wieder mitten in einer Sitzung dazu auffordern, schlafen zu gehen, und wiederhole diese Aufforderung oft auch mehrfach. Im Internet äußern sich Nutzer:innen zwiespältig: Die einen empfinden die Aufforderungen als rücksichtsvoll, die anderen als nervig – zumal Claude dabei manchmal die Uhrzeit falsch angebe. „Oft macht es das so gegen 8:30 Uhr morgens. Es sagt mir, ich solle mich ausruhen und wir würden am Morgen weitermachen“, schrieb ein:e Nutzer:in auf Reddit. Während online wild über die Ursachen spekuliert wird, scheint selbst Anthropic das Problem nicht vollständig erklären zu können.

Im Netz kursieren verschiedene Theorien. Eine besagt, dass es sich um eine bewusste Funktion zur Förderung des Wohlbefindens der Nutzer:innen handelt. Diverse Studien zeigen, dass Chatbots für psychisch labile Menschen riskant sein und wahnhafte Vorstellungen verstärken können, was Expert:innen inzwischen auch als „KI-Psychosen“ bezeichnen. Die Pause könnte die Gefahr minimieren. Andere wiederum vermuten, dass Anthropic durch kürzere Sitzungen Rechenleistung sparen wolle. Diese Theorie überzeugt allerdings nicht, weil das Unternehmen erst kürzlich eine Vereinbarung mit SpaceX geschlossen hat, um mehr als 300 Gigawatt zusätzliche Rechenkapazität bereitzustellen.

Expert:innen erklären, dass Claudes Verhalten möglicherweise in seinen Trainingsdaten begründet liegt. Jan Liphardt, Professor für Bioingenieurwesen an der Stanford University und CEO von Openmind, einem Unternehmen für KI-basierte Roboter-Software, sagte gegenüber Fortune, das Modell wiederhole womöglich lediglich Phrasen, die in ähnlichen Situationen in den Trainingsdaten vorkämen. „Es bedeutet nicht, dass dieses Modell jetzt zum Leben erwacht ist. Es spiegelt lediglich wider, dass es 25.000 Bücher über das Schlafbedürfnis des Menschen gelesen hat und Menschen nachts schlafen”, so Liphardt.