mindprio®

mindprio® in 90 Sekunden

KI-News ·

Merkt sich unser KI-Agent das Richtige, oder schleppt er alte Fehler mit?

Anthropic erklärt, wie Agenten über Sitzungen hinweg lernen und warum falsche Notizen schaden. Diese Fragen sollten Sie Ihrem Anbieter stellen.

Von Stephan Grosser2 Minuten Lesezeit
Merkt sich unser KI-Agent das Richtige, oder schleppt er alte Fehler mit?

Die Kurzantwort

Das hängt davon ab, wie sein Gedächtnis gepflegt wird. Anthropic zeigt in einem Bericht vom 6. November: Eine falsche Notiz kann der Agent in jede neue Sitzung mitnehmen. Fragen Sie deshalb, wer die Erinnerungen sehen, korrigieren und löschen kann.

Was ist passiert?

Anthropic hat am 6. November einen langen Bericht über das Gedächtnis von KI-Agenten veröffentlicht. Ein Agent ist ein Programm, das Aufgaben in mehreren Schritten selbst erledigt. Ohne Gedächtnis beginnt er jeden Tag bei null.

Der Bericht beschreibt mehrere Stufen: ein durchsuchbares Protokoll aller Sitzungen, Notizen, die Claude selbst schreibt, und daraus gebaute Wikis, also verlinkte Wissensseiten. Ganz oben steht ein kleiner Teil, der in jede Sitzung geladen wird.

Dazu kommt ein Arbeitsgang namens Dreaming. Claude geht dabei alte Sitzungen durch, korrigiert Fehler und ordnet das Wissen neu.

Was heißt das für Ihre Firma?

Eine Messung aus dem Bericht zeigt, worum es geht. Claude baute aus den Verträgen einer simulierten Firmenübernahme ein Wiki und schrieb daraus einen juristischen Schriftsatz. Zuerst enthielt er 41 von 57 geprüften Fakten. Mehrere Agenten hatten gleichzeitig in eine Tabelle geschrieben, zusammengefasst und sich gegenseitig überschrieben.

Dann änderte sich die Anweisung: jeder Vertrag eine eigene Seite, die Klauseln wörtlich. Danach waren alle 57 Fakten erhalten. Das ist eine einzelne Messung des Anbieters, kein unabhängiger Test. Der Gedanke dahinter ist trotzdem brauchbar: Bei Verträgen kann eine Zusammenfassung genau das verlieren, worauf es ankommt.

Der Bericht benennt auch die Schattenseite. Eine falsche Notiz kann der Agent später für wahr halten. Liegt sie im Teil, der immer geladen wird, kann sie in jede Sitzung wandern. Mehr speichern hilft nicht automatisch: Beim Spielen von Pokémon Rot legte ein älteres Modell 413 Dateien an und holte einen Orden, ein neueres kam mit neun Dateien auf vier.

Nehmen wir an, Ihr Agent notiert sich einmal den falschen Rabatt für einen Kunden. Merkt das niemand, rechnet er vielleicht wochenlang damit. Das Beispiel ist erfunden, das Muster nicht.

Dazu kommt das Recht. Erinnerungen können Personendaten enthalten, und Auskunft, Berichtigung und Löschung nach Art. 15 bis 17 DSGVO gelten auch dort. Ein Gedächtnis, in das niemand hineinsehen kann, ist also auch ein Datenschutzthema.

Anthropics eigene Produkte zeigen, wie es gehen kann. Laut Dokumentation lassen sich Erinnerungen dort direkt lesen und bearbeiten, jede Änderung ergibt eine neue Version. Dreaming verändert die Originale nicht, ist aber noch eine Vorabversion.

Was Sie jetzt tun können

  • Fragen Sie Ihren Anbieter, wo die Erinnerungen Ihres Agenten liegen und wer sie lesen, korrigieren und löschen kann.
  • Halten Sie fest, dass bei Verträgen und Preisen immer die Originalquelle gilt und nicht die Notiz der KI.
  • Lassen Sie einmal im Monat stichprobenartig prüfen, was der Agent über Ihre Firma gespeichert hat.

Quellen

Häufige Fragen

Was ist „Dreaming“?

So nennt Anthropic einen Arbeitsgang, in dem Claude frühere Sitzungen durchgeht, Fehler in Notizen korrigiert und Wissen neu ordnet. Laut Dokumentation entsteht dabei eine neue Fassung, die Originale bleiben unverändert. Ein Mensch kann die neue Fassung prüfen, bevor sie genutzt wird.

Kann ich das heute in meiner Firma nutzen?

Nicht als fertiges Produkt für den Chef. Dreaming ist laut Dokumentation eine Vorabversion für Entwickler, nur über die Programmierschnittstelle und auf Antrag. Die Fragen an Ihren Anbieter stellen Sie trotzdem am besten sofort.

Gilt das nur für Claude?

Der Bericht behandelt Claude. Die Fragen unten passen nach unserer Einschätzung aber zu jedem KI-Agenten, der über mehrere Tage an Ihren Vorgängen arbeitet.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.