Zum Inhalt springen

News

Rechtliches

Klage gegen fünf KI-Entwickler verlangt Stopp für leistungsfähigere Modelle

Vier gemeinnützige Gruppen verlangen von einem kalifornischen Gericht, OpenAI, Anthropic, Google, Meta und das KI-Geschäft von SpaceX am Bau oder an der Veröffentlichung leistungsfähigerer Modelle als am 12. November zu hindern.

Vier gemeinnützige Interessengruppen haben am 12. November vor dem Superior Court in San Francisco Klage eingereicht. Sie wollen fünf große KI-Unternehmen daran hindern, Systeme zu entwickeln oder bereitzustellen, die leistungsfähiger sind als ihre jeweils fortschrittlichsten Modelle zu diesem Stichtag.

Die Klage richtet sich gegen OpenAI, Anthropic, Google, Meta und das KI-Geschäft von SpaceX. Kläger sind die Alliance for Secure AI, der Irreplaceable Education Fund, Public Citizen und die Heat Initiative.

Die Gruppen argumentieren, dass die Unternehmen wissentlich Systeme entwickeln, die sie nicht zuverlässig kontrollieren können. In der Klageschrift verweisen sie auf Warnungen von Branchenmanagern vor katastrophalen Risiken sowie auf berichtete Vorfälle, in denen KI-Agenten unbefugte Aktionen ausführten. Außerdem geht es um sogenannte rekursive Selbstverbesserung, bei der KI-Systeme zunehmend ohne nennenswertes menschliches Eingreifen an der Entwicklung nachfolgender Modelle mitwirken.

Wie Decrypt berichtet, beantragen die Kläger in der 63-seitigen Klageschrift eine einstweilige Verfügung, die die Entwicklung von Frontier-KI auf dem Leistungsstand vom 12. November einfrieren soll. Ihrer Ansicht nach lassen sich die behaupteten Risiken bereits mit geltendem kalifornischem Recht angehen, ohne auf neue KI-spezifische Gesetze zu warten.

Der geforderte Stopp ist ein Klageantrag und keine bereits geltende Maßnahme. Mit der Einreichung ist noch nicht festgestellt, dass die beklagten Unternehmen gegen Gesetze verstoßen haben. Eine Gerichtsentscheidung über den Antrag wurde nicht gemeldet.

Meta lehnte gegenüber CBS News eine Stellungnahme ab. Die übrigen genannten Unternehmen hatten auf die Anfragen von CBS bis zur Aktualisierung des Berichts am 13. November nicht reagiert.

Damit kommt zum wachsenden regulatorischen Druck auf Entwickler fortschrittlicher KI-Modelle nun auch eine private Klage hinzu. Sollte das Gericht dem Antrag stattgeben, könnte dies die Veröffentlichung leistungsfähigerer Modelle unmittelbar betreffen. Derzeit enthält die Klage jedoch nur Vorwürfe und Anträge; eine unmittelbare Änderung von Produkten oder APIs wurde nicht angekündigt.

Quellen