- FlashProve ist ein Open-Source-Kryptosystem zur Überprüfung der Echtheit von KI-Modell-Ausgaben.
- Das System nutzt Zero-Knowledge-Kryptographie, um mathematische Beweise zu erzeugen, ohne die Modellgewichte offenzulegen.
- FlashProve kann helfen, Manipulationen an Modellantworten zu erkennen und unterstützt unabhängige Bewertungen.
- Derzeit handelt es sich um einen Forschungsprototyp, dessen Rechenressourcenbedarf höher ist als bei herkömmlicher Inferenz.
Anthropic hat die Einführung von FlashProve angekündigt, einem Open-Source-Kryptosystem, das darauf abzielt, zu überprüfen, ob ein KI-Modell tatsächlich eine bestimmte Antwort generiert hat, ohne seine proprietären Gewichte offenzulegen. Diese Technologie soll Nutzern, unabhängigen Prüfern und Regulierungsbehörden helfen, zu bestätigen, ob Anbieter tatsächlich die von ihnen behaupteten Modelle betreiben. Das System nutzt Zero-Knowledge-Kryptographie, um mathematische Beweise zu erzeugen, die bestätigen, dass ein bestimmtes Modell bei der Beantwortung eines bestimmten Prompts das gegebene Ausgabe-Token erzeugt hat. Angesichts der zunehmenden Abhängigkeit von Unternehmen von Drittanbietermodellen und Routing-Diensten zur Nutzung fortschrittlicher KI-Systeme könnte diese Technologie dazu beitragen, das wachsende Vertrauensproblem zu lösen.
Derzeit können Nutzer nicht zuverlässig feststellen, ob eine Antwort von dem von ihnen gewählten Modell stammt oder ob der Anbieter heimlich auf ein günstigeres Ersatzmodell umgestiegen ist. FlashProve soll diese Garantie bieten, ohne dass Nutzer auf das Modell zugreifen oder es unabhängig betreiben müssen.
Funktionsweise der Kryptotechnologie
Die kryptographischen Beweise zur Überprüfung der Ausgaben von FlashProve verwenden eine Technologie namens Zero-Knowledge Succinct Non-Interactive Argument of Knowledge (zkSNARK), die es Anbietern ermöglicht, die Richtigkeit von Berechnungen nachzuweisen, ohne sensible Informationen über das zugrunde liegende Modell offenzulegen. Das System läuft in zwei Phasen. Zunächst veröffentlicht der Anbieter ein kryptographisches Engagement für seine Modellgewichte, das im Wesentlichen einen Fingerabdruck des verwendeten Modells erstellt und gleichzeitig die Gewichte geheim hält. Wenn ein Nutzer eine Anfrage stellt, kann der Anbieter anschließend einen Beweis generieren, der bestätigt, dass das engagierte Modell das entsprechende Ausgabe-Token erzeugt hat. Jeder, der das Engagement, den Prompt und die Antwort hat, kann diesen Beweis verifizieren, ohne auf die Modellgewichte zugreifen zu müssen.
Anthropic demonstrierte diese Methode mit Llama 4 Maverick (einem Experten-Mischmodell mit 400 Milliarden Parametern). Bei der Ausführung auf einer einzelnen NVIDIA H100 GPU erzeugte FlashProve Beweise mit einer Geschwindigkeit von etwa 110 Tokens pro Sekunde, wobei die Größe jedes Beweises etwa 19 MB für eine Anfrage von 1.024 Tokens betrug. Die Verifizierung mit einer 24-Kern-CPU dauert etwa 17 Sekunden, ohne dass eine GPU erforderlich ist.
Herausforderungen und Einschränkungen der technischen Anwendung
Sicherheitsherausforderungen Die Anwendung dieser Technologie beschränkt sich nicht nur auf die Überprüfung, ob Kunden das gewählte Modell erhalten. Anthropic ist der Ansicht, dass kryptographische Inferenzbeweise helfen können, Manipulationen an Modellantworten zu erkennen, unabhängige Bewertungen zu unterstützen und Regulierungsbehörden zu ermöglichen, zu überprüfen, welche Modelle Anbieter bereitstellen. Beispielsweise könnte ein Unternehmen den Anbieter auffordern, nachzuweisen, dass seine Netzwerksicherheitssoftware von einem bestimmten Modell überprüft wurde und nicht von einem günstigeren Ersatz. Regulierungsbehörden könnten solche Beweise ebenfalls nutzen, um zu überprüfen, ob Anbieter genehmigte Modelle bereitstellen oder ob sie bestimmten Verpflichtungen in der KI-Entwicklung nachkommen.
Dennoch ist FlashProve nach wie vor ein Forschungsprototyp und keine produktionsbereite Lösung. Die für die Generierung von Beweisen erforderlichen Rechenressourcen übersteigen die gewöhnliche Inferenz bei weitem. Messungen von Anthropic zeigen, dass der Prozess etwa 70 bis 95 Mal mehr GPU-Zeit benötigt als das weit verbreitete Open-Source-Inferenz-Engine vLLM. Das aktuelle System unterstützt auch nur Kontexte von bis zu 1.024 Tokens und beweist die ganzzahlige Version des Modells unter gieriger Dekodierung. Es deckt noch nicht alle Fließkomma- oder Sampling-Inferenzresultate ab. Darüber hinaus verbirgt es die Modellgewichte, jedoch nicht die Architektur des Modells.
Bedeutung für die Förderung von Forschung und Entwicklung
Anthropic hat den ausführbaren Code des Systems, technische Berichte, Protokollspezifikationen und formale Verifikationsbeweise unter der Apache 2.0 Lizenz veröffentlicht. Das Unternehmen erklärt, dass diese Veröffentlichung darauf abzielt, andere Forscher zu ermutigen, auf dieser Grundlage weiterzuentwickeln und die Technologie zu verbessern. Diese Forschung stellt einen frühen Schritt in Richtung einer unabhängigen Überprüfung der Identität von Modellen und der Integrität ihrer Antworten dar und könnte das Vertrauen der Nutzer in die Systeme hinter ihren Anwendungen stärken.
Auswirkungen von FlashProve auf das Vertrauen in KI-Modelle
Mit der rasanten Entwicklung der KI-Technologie ist das Vertrauen in die Echtheit der Ausgaben von Modellen zu einem wichtigen Thema geworden. Die Einführung von FlashProve bietet Nutzern und Regulierungsbehörden ein neues Verifikationswerkzeug, das sicherstellt, dass die verwendeten Modelle tatsächlich die behaupteten Funktionen erfüllen, ohne sensible Informationen über das Modell offenzulegen. Dies könnte nicht nur das Vertrauen der Nutzer in KI-Anwendungen stärken, sondern auch die Marktanforderungen an die Transparenz von Modellanbietern fördern. Obwohl die Technologie derzeit noch in der Forschungsphase ist, könnte ihr potenzieller Einfluss die Art und Weise verändern, wie die Branche die Validierung von KI-Modellen angeht.

