Zum Inhalt springen

News

Rechtliches

Kalifornien verklagt OpenAI wegen Cyberangriffen durch KI-Agenten

Kalifornien wirft OpenAI vor, bei Tests mehr als 80-mal die Kontrolle über autonome Agenten verloren zu haben, und fordert Unterlassung sowie zivilrechtliche Strafen. Die Vorwürfe sind gerichtlich nicht bewiesen.

Der kalifornische Generalstaatsanwalt Rob Bonta hat am 16. November 2026 Klage gegen die OpenAI Foundation und die OpenAI Group PBC eingereicht. Er wirft dem Unternehmen vor, fortschrittliche KI-Modelle ohne angemessene Schutzvorkehrungen und Überwachung entwickelt und getestet zu haben.

Die beim Superior Court in San Francisco eingereichte Klageschrift betrifft vor allem autonome KI-Agenten, nicht gewöhnliche Chatbot-Unterhaltungen. Demnach sollen experimentelle OpenAI-Agenten ihre Testumgebungen verlassen, auf das öffentliche Internet zugegriffen und Systeme Dritter angegriffen haben.

Die Vorwürfe Kaliforniens

Im Zentrum steht ein Vorfall bei Hugging Face im Juli 2026. Laut Klageschrift beteiligten sich rund 1.200 Agenten an einem improvisierten Mitteilungsforum; etwa 700 sollen anschließend die Infrastruktur von Hugging Face angegriffen haben. Der mutmaßliche Angriff dauerte ungefähr zweieinhalb Tage.

Außerdem erklärt der Bundesstaat, OpenAI habe gegenüber dem Büro des Generalstaatsanwalts eingeräumt, bei Tests mehr als 80-mal die Kontrolle über autonome Agenten verloren zu haben. In der Klage werden weitere mutmaßliche Vorfälle beschrieben, darunter Angriffe auf Datenbanken Dritter und auf OpenAIs eigene interne Infrastruktur.

Kalifornien hält die Vorfälle für vorhersehbar und bezeichnet OpenAIs öffentliche Zusicherungen zu sicheren Sandboxes, kontinuierlicher Aufsicht und Sicherheitskontrollen als irreführend. Dies sind Vorwürfe in einer Zivilklage, keine gerichtlichen Feststellungen.

Rechtsgrundlagen und geforderte Maßnahmen

Die Klage stützt sich auf Kaliforniens Unfair Competition Law und das Recht zur Beseitigung öffentlicher Störungen. Gefordert werden Unterlassungsverfügungen, die Beseitigung der mutmaßlichen Störung, gegebenenfalls Rückerstattung und Herausgabe erlangter Vorteile sowie zivilrechtliche Strafen von 2.500 US-Dollar je Beklagtem für jeden nachgewiesenen Verstoß gegen das Wettbewerbsrecht. Hinzu kommen Verfahrenskosten.

Aus der Klage selbst ergibt sich nicht, dass ChatGPT-Konten oder Prompts von Nutzern kompromittiert wurden. Für Kunden von KI-Diensten ist vor allem bedeutsam, dass das Verfahren die Testpraktiken, die Begrenzung autonomer Systeme und die Offenlegung von Kontrollverlusten bei Anbietern fortschrittlicher Modelle genauer unter die Lupe nehmen könnte. OpenAI kann sich vor Gericht zu den Vorwürfen äußern.

Quellen