Zum Inhalt springen

News

Start

Anthropic veröffentlicht FlashProve zur Prüfung des Modells hinter einer KI-Antwort

Anthropic hat FlashProve als Open-Source-Prototyp veröffentlicht. Kryptografische Beweise sollen prüfbar machen, welches Modell eine KI-Antwort erzeugt hat; Leistung und Technik haben jedoch noch deutliche Grenzen.

Anthropics Frontier Red Team hat am 2. November 2026 FlashProve veröffentlicht, einen Open-Source-Forschungsprototyp, der kryptografisch nachweisen soll, dass ein bestimmtes Sprachmodell eine bestimmte Antwort erzeugt hat. An dem Projekt waren auch Forschende der EPFL, des MIT und von StarkWare beteiligt.

Die Veröffentlichung adressiert ein grundlegendes Vertrauensproblem bei gehosteter KI: Eine überzeugende Antwort allein belegt nicht, welches Modell sie erzeugt hat. Ein Routing-Dienst könnte unbemerkt ein günstigeres Modell einsetzen, oder jemand mit Zugang zum Inferenzserver könnte den Token-Strom verändern.

FlashProve nutzt dafür einen zkSNARK-Ansatz. In einer Offline-Phase veröffentlicht der Anbieter eine kurze Commitment-ID, gewissermaßen einen Fingerabdruck zu einem exakten Satz von Modellgewichten. Zu einem Prompt und dessen Ausgabe kann der Anbieter anschließend einen Beweis erstellen, der an dieses Commitment gebunden ist. Kunden prüfen den Beweis, ohne die Gewichte zu erhalten oder das Modell selbst auszuführen. Die Zero-Knowledge-Konstruktion hält die Gewichte geheim, nicht jedoch die Modellarchitektur.

Getestet hat Anthropic den Prototyp mit einer 4-Bit-Version von Metas Llama 4 Maverick, einem Mixture-of-Experts-Modell mit 400 Milliarden Parametern. Gemessen wurden rund 110 Token pro Sekunde auf einer H100-GPU. Ein Beweis für eine Anfrage mit 1.024 Token ist etwa 18,78 MB groß; seine Prüfung dauerte auf 24 CPU-Threads ungefähr 17 Sekunden. In den Vergleichen mit vLLM beanspruchte die Beweiserstellung etwa das 70- bis 95-Fache der GPU-Zeit einer normalen Inferenz.

Das Repository enthält den Prover, Verifier in C++ und Lean, formale Lean-Beweise sowie eine Protokollspezifikation. Code, Beweise und Dokumentation stehen unter Apache 2.0.

Ein Produktionsschutz für Claude oder andere gehostete Dienste ist FlashProve bislang nicht. Laut TechCrunch gibt es derzeit keine Pläne für einen Einsatz. Anthropic nennt zudem erhebliche Grenzen: Kontexte sind auf 1.024 Token begrenzt, der Beweis gilt für ein Integer-Modell mit Greedy-Decoding, das derzeitige Design zielt auf Mixture-of-Experts-Modelle, und das Team garantiert nicht, dass Papier, Lean-Protokoll und schneller ausführbarer Code exakt übereinstimmen. FlashProve zeigt damit Fortschritte bei überprüfbarer Modellidentität, aber noch keine fertige Garantie für den alltäglichen Chatbot-Verkehr.

Quellen