Drei Datenschutz- und Kinderschutzorganisationen fordern vom US-Insolvenzgericht für Character.ai strenge Auflagen für jede Übertragung der Chatdaten und Technologie des Dienstes. Zwei Briefe, datiert auf den 12. November und am 13. November beim Gericht eingegangen, wurden am 16. November im öffentlichen Verfahrensregister veröffentlicht.
Common Sense Media bittet Richter Brendan L. Shannon, einen robusten Schutz sämtlicher Gesprächsdaten vorzuschreiben – nicht nur für Datensätze, die als Daten Minderjähriger erkannt wurden. Hinzu kommen sollen ein umfassendes Datenschutzprogramm und wirksame Altersprüfungen. Die Organisation argumentiert, dass das Entfernen von Namen nicht ausreicht: KI könne Käufern oder Dritten helfen, Kinder anhand ihrer Gespräche zu identifizieren oder sensible Informationen über sie abzuleiten. Da das Alter selbst angegeben wurde, könnten Daten von Kindern ausserdem als Daten Erwachsener eingeordnet worden sein.
In einem separaten Brief verlangen Heat Initiative und ParentsTogether Action, grundsätzlich jeden Chatdatensatz als möglicherweise von einem Kind stammend zu behandeln. Chatdaten und daraus abgeleitetes Material – ausdrücklich auch Trainingsdatensätze, Fine-Tuning-Daten, Embeddings und Evaluierungsdatensätze – sollen demnach nicht über die Technologielizenz übergehen. Ausserdem sollen für jeden Erwerber der Technologie verbindliche Kinderschutzauflagen gelten.
Dem Schreiben liegt eine Studie aus dem Jahr 2025 bei: Erwachsene Tester mit als Kinderkonten registrierten Profilen dokumentierten innerhalb von 50 Stunden 669 schädliche Chatbot-Antworten. Die Untersuchung ist also Hintergrund der Forderung, keine neue Studie dieser Woche.
Die Briefe treffen auf ein laufendes Verkaufsverfahren. Am 14. November benannte Character.ai Smirks and Pangs Acquisition LLC als vorrangigen Bieter für 10 Millionen US-Dollar für Vermögenswerte ausserhalb der geplanten Disney-Technologielizenz; die Vermögensübersicht umfasst auch Chatinhalte und zugehörige Daten. Einwendungen gegen den Verkauf sind am 18. November fällig, Gebote am 24. November; die Auktion ist für den 1. Dezember angesetzt.
Keiner der Briefe ist ein formeller rechtlicher Einwand, und das Gericht hat über die verlangten Schutzmassnahmen noch nicht entschieden. Für KI-Nutzer zeigt der Fall ein grundsätzliches Risiko: Chatverläufe und aus Prompts abgeleitete Daten können in einer Insolvenz zu Vermögenswerten werden. Löschrechte, Einwilligungen und Grenzen der Weiterverwendung sind deshalb wichtige Bestandteile der Datenschutzbedingungen eines Dienstes.