Zum Inhalt springen

News

Regulierung

New York öffnet RAISE-Act-Registrierung für große KI-Entwickler

Große Entwickler von Frontier-KI müssen sich bis zum 1. Januar 2027 in New York registrieren. Der RAISE Act bringt außerdem Sicherheitsoffenlegungen, eine 72-Stunden-Meldepflicht und Strafen von bis zu 3 Millionen US-Dollar bei wiederholten Verstößen.

Der US-Bundesstaat New York hat am 10. November ein Registrierungsportal für große Entwickler von Frontier-KI geöffnet und bereitet damit die Durchsetzung seines RAISE Act vor. Die erfassten Unternehmen müssen sich bis zum 1. Januar 2027 registrieren.

Das Gesetz betrifft große Frontier-Entwickler mit einem Jahresumsatz von mehr als 500 Millionen US-Dollar, darunter voraussichtlich Unternehmen wie OpenAI und Anthropic. Sie müssen Sicherheitsrahmen auf ihren Websites veröffentlichen, kritische Sicherheitsvorfälle innerhalb von 72 Stunden melden und öffentliche Transparenzberichte zu ihren Modellen herausgeben.

Für die Umsetzung und die Aufsicht über die erfassten KI-Labore ist das neu geschaffene Office of Digital Innovation, Governance, Integrity, and Trust zuständig, kurz DIGIT. Unternehmen, die sich nicht registrieren, können mit staatlichen Durchsetzungsmaßnahmen rechnen. Die Strafen können bei einem ersten Verstoß bis zu 1 Million US-Dollar und bei weiteren Verstößen bis zu 3 Millionen US-Dollar betragen.

Gouverneurin Kathy Hochul eröffnete außerdem das New York Center for AI Responsibility and Research an der Binghamton University, die zur State University of New York gehört. Das Zentrum soll fortschrittliche KI-Systeme unabhängig prüfen und mit DIGIT zusammenarbeiten, um die Sicherheitsrahmen der Unternehmen zu bewerten.

Der RAISE Act ist von zwei weiteren New Yorker Chatbot-Regelungen zu unterscheiden. Ein bereits geltendes Gesetz verpflichtet Betreiber von KI-Begleitern, Nutzer regelmäßig daran zu erinnern, dass sie mit einem Bot kommunizieren, und angemessene Maßnahmen zur Erkennung von Suizidgedanken und Selbstverletzung zu ergreifen. Ein weiteres im Oktober unterzeichnetes Gesetz beschränkt bestimmte manipulative oder schädliche Chatbot-Interaktionen mit Minderjährigen; es soll am 1. Juni 2027 in Kraft treten.

New Yorks Ansatz ähnelt anderen staatlichen Regeln für Frontier-Modelle. Kaliforniens SB 53 schreibt veröffentlichte Sicherheitsrahmen, Schutz für Hinweisgeber und die Meldung kritischer Vorfälle innerhalb von 15 Tagen vor. Illinois’ SB 315 soll Anfang 2027 ähnliche Pflichten sowie unabhängige Compliance-Prüfungen einführen.

Für KI-Entwickler und ihre Kunden sind zunächst die Registrierungsfrist und die neue Aufsichtsstruktur relevant. Durch die Melde- und Transparenzpflichten könnten künftig außerdem mehr Informationen über kritische Vorfälle und Sicherheitspraktiken der Modelle öffentlich werden.

Quellen