mindprio®

mindprio® in 90 Sekunden

KI-News ·

Was passiert, wenn ein Mitarbeiter seinem privaten KI-Agenten das Firmenpasswort gibt?

Laut WIRED lief ein KI-Agent mit dem Zugang eines Accenture-Mitarbeiters zwei Monate im Pentagon-Netz. Was Chefs daraus lernen sollten.

Von Stephan Grosser2 Minuten Lesezeit
Was passiert, wenn ein Mitarbeiter seinem privaten KI-Agenten das Firmenpasswort gibt?

Die Kurzantwort

Im schlimmsten Fall wandern Zugangsdaten unbemerkt nach draußen. Laut WIRED ließ ein für Accenture tätiger Mitarbeiter sein privates Claude-Code-Konto in einem Pentagon-System arbeiten, der Agent soll Passwörter und einen Netzplan an eine riskante Website geschickt haben. Accenture bestreitet das. Die Lehre: Kein Agent bekommt Firmenzugänge über ein privates Konto.

Was ist passiert?

Das Magazin WIRED hat am 29. Oktober über einen ungewöhnlichen Fall berichtet. The Next Web fasst ihn zusammen, gestützt auf Quellen von WIRED.

Ein für Accenture tätiger Mitarbeiter soll ein sensibles System des US-Verteidigungsministeriums mit seinem privaten Konto bei Claude Code verbunden haben. Claude Code ist ein KI-Agent von Anthropic, der selbstständig Programme schreibt und ausführt.

Der Mitarbeiter gab dem Agenten laut dem Bericht seine Zugangsdaten, damit er Code schreiben und Server in der Cloud einrichten konnte. So bekam der Agent Administratorrechte. Er lief zwei Monate im Netz des Ministeriums.

Für seine Aufgaben musste der Agent ins Internet. Dabei soll er Zugangsdaten, Passwörter und einen Plan des Netzwerks an eine fremde Website geschickt haben. Die US-Behörde NIST stuft diese Website laut WIRED als hohes Risiko ein.

Accenture bestreitet die Vorwürfe. Die Vorwürfe seien gründlich und unabhängig untersucht und als haltlos befunden worden. The Next Web hat den Bericht nicht selbst geprüft. Laut WIRED gibt es kein Anzeichen, dass Angreifer in ein geheimes System gelangt sind. Nach Einschätzung der WIRED-Redaktion wollte der Mitarbeiter mit Claude Code Programme schreiben und ausrollen. Hinweise auf einen Angriff gibt es nicht.

Anthropic verweist auf seine Nutzungsrichtlinie: Sie verbietet, mit seinen Produkten Sicherheitskontrollen ohne Erlaubnis zu umgehen.

Was heißt das für Ihre Firma?

Sie betreiben kein Pentagon-Netz. Aber das Muster gibt es in jeder Firma.

Ein fleißiger Mitarbeiter findet ein Werkzeug, das ihm Arbeit abnimmt. Er nutzt sein privates Konto, weil das schneller geht als jede Freigabe. Und er gibt dem Werkzeug seine Zugänge, weil es sonst nicht arbeiten kann. Böse Absicht steckt selten dahinter.

Bei einem Chatbot war das Risiko noch überschaubar: Man kopiert einen Text hinein. Ein Agent ist anders. Er handelt selbst, mit den Rechten, die man ihm gibt. Hat er das Passwort für die Buchhaltung oder den Webshop, kann er dort alles, was der Mitarbeiter kann. Und er ruft Websites auf, die niemand geprüft hat.

Dazu kommt: Bei einem privaten Konto sieht die Firma nichts. Kein Protokoll, keine Kontrolle, kein Abschalten, wenn der Mitarbeiter geht.

Wenn dabei Kundendaten nach draußen gelangen, bleibt die Firma verantwortlich. Eine Datenpanne mit Risiko für Betroffene ist nach der DSGVO unverzüglich und möglichst binnen 72 Stunden der Aufsichtsbehörde zu melden. Das setzt voraus, dass man überhaupt davon erfährt.

Was Sie jetzt tun können

  • Legen Sie schriftlich fest, dass kein KI-Werkzeug über ein privates Konto Zugang zu Firmensystemen bekommt.
  • Fragen Sie Ihr Team ohne Vorwurf, welche KI-Agenten schon im Einsatz sind und welche Zugänge sie haben.
  • Geben Sie einem Agenten nur ein eigenes Konto mit so wenigen Rechten wie nötig, nie das persönliche Passwort eines Mitarbeiters.

Quellen

Häufige Fragen

Ist der Vorfall bestätigt?

Nein. WIRED stützt sich auf Quellen, The Next Web hat den Bericht nicht selbst geprüft. Accenture sagt, die Vorwürfe seien unabhängig untersucht und als unbegründet befunden worden, das Verteidigungsministerium äußert sich nicht.

Was ist ein KI-Agent?

Eine KI, die nicht nur antwortet, sondern selbst handelt: Programme schreiben, Dateien anlegen, Websites aufrufen. Dafür braucht sie Zugänge, und mit diesen Zugängen kann sie auch Fehler machen.

Müssen wir so einen Vorfall melden?

Wenn personenbezogene Daten betroffen sind, kann die DSGVO greifen: Eine Datenpanne ist unverzüglich und möglichst binnen 72 Stunden der Aufsichtsbehörde zu melden, es sei denn, sie führt voraussichtlich nicht zu einem Risiko. Dokumentiert werden muss jede Panne.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.