Florida verklagt ChatGPT-Entwickler OpenAI

Der US-Bundesstaat Florida wirft der KI-Firma OpenAI in einer Klage vor, die Nutzer ihrer Software ChatGPT zu gefährden. Der Chatbot sei eine Bedrohung für die öffentliche Sicherheit, heißt es in der von Floridas Generalstaatsanwalt James Uthmeier eingereichten Klageschrift.

Darin wird auf Fälle verwiesen, in denen ChatGPT eine tödliche Medikamentenkombination empfohlen habe. Außerdem soll der Chatbot einen für tödliche Schüsse auf einem Universitätsgelände verantwortlichen Schützen vor dessen Tat beraten haben.

Insbesondere für Teenager sei der Chatbot problematisch, kritisierte Uthmeier. Es fehle eine Altersverifizierung für die App. »Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern.«

OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer. Dazu gehörten Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Maßnahmen führte OpenAI zum Teil erst nach Todesfällen und öffentlicher Kritik ein.

ChatGPT ist der Chatbot, der den aktuellen Hype um die künstliche Intelligenz auslöste und kommt inzwischen laut OpenAI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.

Florida hatte bereits im April Ermittlungen zur Rolle von ChatGPT beim Schusswaffen-Angriff an der Florida State University im April 2025 aufgenommen. Der Schütze habe vor der Tat Ratschläge von dem KI-Chatbot eingeholt, sagte Uthmeier damals. Demnach bekam er nicht nur Empfehlungen, welche Waffe er verwenden solle und welche Munition zu welchen Waffen passe, sondern auch zu der Frage, wo und zu welcher Zeit dort die meisten Menschen anzutreffen sein würden.

OpenAI beharrt darauf, dass ChatGPT nicht für die Tat verantwortlich sei, bei der zwei Menschen getötet und sechs weitere verletzt wurden.

Generalstaatsanwalt Uthmeier hatte nach Beginn der Ermittlungen im April deutliche Worte gefunden: »Wäre ChatGPT eine Person, würde sie wegen Mordes angeklagt werden«.

Das Gesetz in Florida sehe vor, dass jeder, der jemanden beim Begehen einer Straftat unterstützt oder ihn dazu anstiftet, als dessen Helfer gesehen werde und dieselbe Verantwortung trage wie der Täter, so Uthmeier.

In immer mehr Fällen behaupten betroffene Familien und Strafverfolgungsbehörden, ChatGPT oder andere KI-Chatbots hätten eine Rolle bei Gewalt oder Verbrechen gespielt. Im Falle des Angriffs auf die Florida State University klagt auch die Familie eines Opfers gegen OpenAI – mehr dazu hier.

Nach eine