
Die Kurzantwort
Heute können Sie es als Kunde nicht nachprüfen. Anthropic hat am 2. November mit FlashProve einen offenen Forschungsprototyp vorgestellt, der das Modell hinter einer Antwort rechnerisch beweisen soll, aber rund 70- bis 95-mal so viel Rechenzeit braucht wie der normale Betrieb. Bis auf Weiteres bleiben Ihnen Vertrag und klare Fragen an den Anbieter.
Was ist passiert?
Anthropic hat am 2. November FlashProve vorgestellt. Das Verfahren soll rechnerisch beweisen, dass eine KI-Antwort von genau dem Modell stammt, das angegeben ist.
Das Problem beschreibt Anthropic so: Wer heute ein Modell abfragt, kann nicht prüfen, ob die Antwort wirklich von diesem Modell kommt. Ein Vermittlungsdienst könnte aus Kostengründen heimlich ein anderes einsetzen. Oder ein Angreifer könnte die Antwort unterwegs verändern.
FlashProve arbeitet in zwei Schritten. Zuerst wird ein Fingerabdruck des Modells veröffentlicht. Dann lässt sich zu einer Antwort ein Nachweis erstellen, den jeder mit Fingerabdruck, Frage und Antwort nachprüfen kann.
Ein fertiges Produkt ist das nicht. Anthropic nennt es ausdrücklich einen Forschungsprototyp, der Code ist offen. TechCrunch schreibt, dass kein Einsatz bei Anthropic oder einem anderen Labor geplant sei.
Die Grenzen nennt Anthropic selbst:
- Das Verfahren braucht rund 70- bis 95-mal so viel Rechenzeit auf dem Grafikprozessor wie der normale Betrieb des Modells.
- Bewiesen werden höchstens 1.024 Tokens am Stück, also wenige Absätze. Tokens sind die Textstücke, nach denen KI-Dienste rechnen.
- Die Nachweise entstehen gesammelt im Nachhinein, nicht zusammen mit der Antwort.
- Bewiesen wird eine genau festgelegte Rechenweise des Modells. Antworten aus dem üblichen Betrieb können davon abweichen.
Was heißt das für Ihre Firma?
Kurzfristig ändert sich nichts an Ihren Werkzeugen. Wichtig ist die Frage dahinter.
Viele Firmen kaufen KI nicht direkt beim Hersteller. Sie nutzen eine Branchensoftware, ein Chatfenster auf der Website oder das Angebot eines Dienstleisters. Vorne steht dann vielleicht der Name eines bekannten Modells. Was hinten läuft, sehen Sie nicht.
Das zählt aus drei Gründen:
- Qualität: Wenn Sie einmal getestet haben und das Modell später wechselt, gilt Ihr Test nicht mehr.
- Preis: Sie zahlen vielleicht für das teure Modell und bekommen ein billigeres.
- Daten: Ein anderes Modell kann bei einem anderen Anbieter in einem anderen Land laufen. Und damit laufen dort auch Ihre Texte.
Wir unterstellen niemandem, so zu arbeiten. Sie können es nur bislang nicht überprüfen, und das ist der Punkt. Solange es keinen technischen Beweis gibt, bleibt Ihnen das schriftliche Wort des Anbieters.
Am klarsten ist die Lage, wenn das Modell auf einem Server läuft, der Ihnen zugeordnet ist. Dann wissen Sie, was installiert wurde und wer es ändern darf.
Was Sie jetzt tun können
- Fragen Sie jeden Anbieter von KI-Software schriftlich, welches Modell läuft, bei wem und in welchem Land.
- Lassen Sie in den Vertrag schreiben, dass ein Modellwechsel vorher angekündigt wird.
- Wiederholen Sie bei wichtigen Abläufen Ihren Test nach jedem angekündigten Wechsel und zusätzlich einmal im Quartal.
Quellen
Häufige Fragen
Können wir FlashProve schon einsetzen?
Für den Alltag nicht. Anthropic nennt es selbst einen Forschungsprototyp. Es braucht ein Vielfaches der Rechenzeit des normalen Betriebs und ist auf kurze Texte begrenzt.
Betrifft uns das, wenn wir ChatGPT oder Claude direkt beim Hersteller nutzen?
Weniger. Anthropic nennt vor allem zwischengeschaltete Vermittlungsdienste als Risiko, die aus Kostengründen heimlich ein anderes Modell einsetzen könnten. Wer direkt beim Hersteller kauft, hat diesen Zwischenschritt nicht.

