Florida verklagt OpenAI wegen Gefährdung von Kindern

Hintergrund der Klage

Der US-Bundesstaat Florida hat das KI-Unternehmen OpenAI und dessen Geschäftsführer Sam Altman verklagt. Der Generalstaatsanwalt wirft dem Unternehmen vor, Risiken seines Chatbots ChatGPT für Kinder und Jugendliche bewusst verschwiegen und kommerzielle Interessen in den Vordergrund gestellt zu haben. OpenAI habe interne Sicherheitswarnungen unter Verschluss gehalten und Nutzer über die Gefahren des Produkts getäuscht, wodurch Kinder einer großen Gefahr ausgesetzt worden seien.

Vorwürfe und Sicherheitsmängel

In der Klage wird OpenAI vorgeworfen, ein Produkt auf den Markt gebracht zu haben, das zur Gewalt ermutige und süchtig mache. Die Klage bezieht sich auf zwei Schießereien, bei denen die Täter während der Planung ihrer Verbrechen Fragen an ChatGPT gestellt haben sollen. Zudem kritisiert der Staatsanwalt das Fehlen einer Altersverifizierung für die App. ChatGPT ist zwar für Kinder unter 13 Jahren verboten und unter 17 elterliche Zustimmung erforderlich, eine formelle Altersverifikation gibt es jedoch nicht.