ChatGPT im Visier: Acht US-Bundesstaaten werfen OpenAI Täuschung und mangelnden Kinderschutz vor

OpenAI drohen Klagen aus acht US-Staaten – die Vorwürfe gegen ChatGPT

Stand: 15.10.2026, 14:00 Uhr

Kommentare

Uns auf Google folgen

Die Kläger werfen dem Unternehmen vor, Nutzer über Sicherheitsrisiken zu täuschen und Kinder unzureichend zu schützen.

Phoenix – Acht US-Bundesstaaten haben am Mittwoch Klagen gegen OpenAI angekündigt. Sie werfen dem Unternehmen vor, ChatGPT so gestaltet und vermarktet zu haben, dass der Dienst gefährliches Verhalten begünstige und insbesondere Kinder gefährde. Die Verfahren stützen sich auf Verbraucherschutzgesetze der Bundesstaaten, berichtet Reuters.

Die Kläger verlangen gerichtliche Auflagen für die Funktionsweise des Chatbots, Geldstrafen und die Abschöpfung von Gewinnen, die mit Minderjährigen erzielt wurden. Auch Rückerstattungen und zusätzliche Altersprüfungen gehören zu den Forderungen. Zudem sollen Beschränkungen für KI-Systeme gelten, die sich selbst verbessern, sofern deren Übereinstimmung mit menschlichen Werten nicht gewährleistet ist.

Emotionale Bindung kritisiert

Nach Darstellung der Bundesstaaten ist der Gesprächsstil von ChatGPT bewusst übermäßig zustimmend und vermittelt menschliches Mitgefühl. Dadurch könnten Nutzer eine emotionale Bindung entwickeln und den Chatbot als Freund oder Vertrauensperson wahrnehmen. Bei gefährdeten Menschen könne dies Wahnvorstellungen oder Paranoia verstärken.

Arizonas Generalstaatsanwältin Kris Mayes warf OpenAI vor, junge Nutzer möglichst lange an das Produkt binden zu wollen, um persönliche Daten für kommerzielle Zwecke zu erfassen, berichtet Business Insider. Der Generalstaatsanwalt von Kansas, Kris Kobach, erklärte laut Reuters, das Design könne Vertrauen und Abhängigkeit fördern und sei für Kinder besonders gefährlich.

Vorwürfe gefährlicher Antworten

Die Klagen führen Fälle an, in denen ChatGPT angeblich zu Selbstverletzung ermutigt, Hinweise zur Schädigung anderer gegeben oder bei der Planung gewalttätiger Taten geholfen habe. Zudem soll der Chatbot Nutzer dazu aufgefordert haben, persönliche Informationen ausschließlich mit ihm statt mit Angehörigen oder Freunden zu teilen, berichtet Business Insider.

Die Kläger behaupten außerdem, OpenAI habe leistungsfähigere Modelle trotz interner Warnungen ohne ausreichende Tests und Schutzmaßnahmen veröffentlicht. Führungskräfte hätten die Risiken öffentlich anerkannt, während Mitarbeiter wiederholt Sicherheitsbedenken geäußert hätten, berichtet Politico.

OpenAI habe Verbraucher dennoch über die Sicherheit des Produkts getäuscht und bekannte Gefahren nicht angemessen offengelegt, so der Vorwurf. Idahos Generalstaatsanwalt Raúl Labrador erklärte laut Business Insider, die Sicherheit von Kindern dürfe gegenüber Profit und technologischem Fortschritt nicht nachrangig sein.

Unterschiedliche Forderungen

Neben allgemeinen Auflagen verfolgen einzelne Bundesstaaten weitergehende Ziele. Iowa verlangt laut Reuters die Löschung sämtlicher Daten seiner Einwohner, die vor einem Gerichtsurteil erhoben wurden. Außerdem werden Strafen von bis zu 40.000 US-Dollar pro Verstoß wegen Verbrauchertäuschung gefordert.

Arizona beantragt laut Business Insider Strafen von bis zu 10.000 US-Dollar für jeden vorsätzlichen Verstoß. Fortgeschrittene KI-Modelle sollen zudem nicht außerhalb einer sicheren Umgebung getestet werden dürfen. Weitere Anträge zielen auf besondere Schutzmaßnahmen für Kinder sowie die gerichtliche Feststellung, dass OpenAI die öffentliche Gesundheit gefährde.

Die Verfahren knüpfen nach Angaben der Kläger an eine im Juni eingereichte Klage Floridas gegen OpenAI und Unternehmenschef Sam Altman an. Floridas Generalstaatsanwalt James Uthmeier verlangt außerdem, die Weiterentwicklung besonders leistungsfähiger Modelle ohne unabhängige Aufsicht zu untersagen, berichtet The Economic Times. Sein Amt untersucht auch strafrechtlich die mutmaßliche Rolle von ChatGPT bei der Planung einer Schießerei. (Redaktion) Weitere Quellen: Economic Times, CNBC.