OpenAI: Florida verklagt OpenAI wegen mangelnden Kinderschutzes

Florida verklagt OpenAI und Sam Altman wegen falscher Sicherheitsangaben zu ChatGPT, das Kindern Schaden zugefügt haben soll. Der Bundesstaat fordert Schadensersatz in Milliardenhöhe und eine Änderung im Umgang mit jüngeren Nutzern. Auch in Kanada wurden Klagen gegen das Unternehmen eingereicht, nachdem ChatGPT in Verbindung mit einem Amoklauf gebracht wurde. OpenAI betont, keine illegalen Handlungen gefördert zu haben, während die Vorwürfe weiterhin im Raum stehen.

Der US-Bundesstaat Florida hat Klage gegen das KI-Unternehmen OpenAI und dessen Geschäftsführer Sam Altman eingereicht. Darin wird dem Unternehmen vorgeworfen, falsche Angaben zur Sicherheit von ChatGPT gemacht zu haben. Demnach habe ChatGPT Kindern Schaden zugefügt, indem es etwa Informationen an Amokläufer in Schulen und Anleitungen zur Selbstverletzung gegeben habe. Außerdem habe es Kinder süchtig gemacht.

Der Südstaat ist damit der erste Bundesstaat in den USA, der rechtlich gegen das Techunternehmen vorgeht. Der Generalstaatsanwalt von Florida, James Uthmeier, reichte die Klage beim Landesgericht Florida ein.

In der Klage wird ein Amoklauf aus dem vergangenen Jahr an der Universität Tallahassee neben weiteren Vorfällen aufgeführt, bei dem ChatGPT Informationen an Kinder gegeben haben soll, die danach mutmaßlich Gewalttaten begangen. Uthmeier sagte bei einer Pressekonferenz, Sam Altman werde in der Klage persönlich genannt, weil er »zentral« an der Entwicklung besonders gefährlicher KI-Eigenschaften beteiligt gewesen sei.

Menschen würden geschädigt, Eltern getäuscht, »und sie müssen dafür aufkommen«, sagte Uthmeier. OpenAI könnte zu Schadensersatz in Höhe von bis zu mehreren Milliarden Dollar haftbar sein, zudem ziele die Klage auf eine gerichtliche Anordnung ab, die OpenAI dazu verpflichtet, seinen Umgang mit jüngeren Nutzern zu ändern, sagte der Generalstaatsanwalt.

OpenAI äußerte sich zunächst nicht zu der Klage. Zuvor hatte das Unternehmen jedoch bereits mitgeteilt, seine Modelle darauf zu trainieren, Anfragen abzulehnen, die Gewalt begünstigen könnten. Wenn Konversationen auf eine unmittelbare und glaubwürdige Gefahr hindeuten würden, würden zudem die Strafverfolgungsbehörden alarmiert.

Uthmeier hatte im April bekannt gegeben, Ermittlungen in die Rolle von ChatGPT in Zusammenhang mit einem Amoklauf an der Universität Florida im vergangenen Jahr einzuleiten. Ermittler hatten zuvor Chatverläufe von dem mutmaßlichen Schützen und ChatGPT ausgewertet. Laut Staatsanwaltschaft fragte der Schütze ChatGPT unter anderem, welche Waffen er benutzen solle, welche Munition zu welchen Waffen