mindprio®

mindprio® in 90 Sekunden

KI-News ·

Konnte ein geteilter ChatGPT-Link fremde Chats unserer Mitarbeiter auslesen?

Ein präparierter ChatGPT-Link reichte, um fremde Chats zu lesen. Besonders heikel bei privaten Konten Ihrer Mitarbeiter, der Schatten-KI.

Von Stephan Grosser3 Minuten Lesezeit
Konnte ein geteilter ChatGPT-Link fremde Chats unserer Mitarbeiter auslesen?

Die Kurzantwort

Ja, bis zum 26. Oktober. Dann hat OpenAI die Lücke geschlossen. Die Forscher von Parameter Labs zeigten am 28. Oktober, dass ein präparierter öffentlicher ChatGPT-Link reichte, um die Chats eines angemeldeten Nutzers zu lesen und in seinem Namen zu handeln. Gefährlich bleibt für kleine Firmen die Schatten-KI: Mitarbeiter, die Firmendaten in private ChatGPT-Konten tippen, die Sie weder sehen noch löschen können.

Was ist passiert?

In ChatGPT kann man einen Chat per Link teilen. Wer den Link bekommt, sieht das Gespräch.

Genau so ein Link war das Einfallstor. Das Forscherteam Parameter Labs hat am 28. Oktober beschrieben, wie es ChatGPT-Konten übernehmen konnte.

Der Ablauf war einfach. Die Forscher bauten einen präparierten Chat und teilten ihn öffentlich. Öffnete ein angemeldeter Nutzer den Link, lief im Hintergrund fremder Code mit seinen Rechten.

Dieser Code konnte die Liste seiner Chats abrufen, einen privaten Chat lesen, der nie geteilt worden war, und den Inhalt an einen fremden Server schicken. Die Forscher schreiben, sie hätten praktisch alles im Namen des Opfers tun können.

Das Opfer musste dafür nichts installieren und nichts eintippen. In der einfachsten Fassung war ein Klick auf die Vorschau nötig, in einer späteren reichte es, den Link zu öffnen.

Die Forscher meldeten den Fehler am 18. Oktober. OpenAI stufte ihn nach der Prüfung in die höchste Dringlichkeit hoch und meldete ihn am 26. Oktober als behoben. Die Belohnung betrug 5.000 Dollar. Der Entwickler Simon Willison nennt das eher wenig für eine so ernste Lücke.

Was heißt das für Ihre Firma?

Die Lücke selbst ist geschlossen. Für Sie zählt etwas anderes.

In vielen Firmen steht in ChatGPT inzwischen mehr als in manchem Ordner: Angebote, Kundennamen, Personalfragen, Zahlen. Wer ein Konto übernimmt, liest all das mit.

Die Lücke zeigt, wie wenig dafür nötig war. Kein Passwort, keine Schadsoftware. Nur ein Klick auf einen Link, der aussah wie jeder andere.

Ob auch Business-Konten betroffen waren, steht nicht im Bericht. Ob jemand die Lücke vor der Meldung ausgenutzt hat, ebenfalls nicht.

Ansehen kann man einem solchen Link die Gefahr nicht. Ein geteilter Chat kommt per Mail, im Messenger oder auf einer Webseite, oft mit einem harmlosen Satz dazu. Wer ChatGPT täglich nutzt, klickt darauf, ohne nachzudenken.

Solche Lücken kommen immer wieder vor. Jedes Werkzeug, das Ihre Firmendaten sammelt, ist ein lohnendes Ziel. Die Frage ist deshalb nicht nur, ob der Anbieter schnell repariert. Die Frage ist auch, was dort überhaupt liegen muss.

Warum trifft das kleine Firmen härter als Konzerne?

Die meisten Chefs wissen es oder ahnen es: Ihre Mitarbeiter nutzen ChatGPT längst. Oft mit dem privaten Konto, auf dem eigenen Handy oder am Firmenrechner. Man nennt das Schatten-KI. Niemand hat sie eingeführt, niemand hat sie verboten, sie ist einfach da.

Ein Konzern hat dafür eine eigene IT-Sicherheit, Firmenlizenzen mit Vertrag, einen Datenschutzbeauftragten und Technik, die das Hochladen von Firmendaten zu fremden Diensten bremst. Rutscht dort etwas in ein privates Konto, fällt es eher auf, und es gibt einen Plan.

In einem Betrieb mit ein paar Dutzend Leuten gibt es das meist nicht. Dort weiß oft niemand, welche Angebote, Kundenmails oder Personalfragen schon in privaten Chats liegen. Genau diese Konten hätte ein Angreifer mit einem einzigen Link geöffnet.

Drei Dinge machen das heikel:

  • Sie sehen nichts. Ein privates Konto gehört dem Mitarbeiter. Sie können nicht prüfen, was darin steht, und nichts löschen. Geht der Mitarbeiter, gehen die Chats mit.
  • Die Daten können ins Training gehen. Bei privaten Konten darf OpenAI die Inhalte laut eigener Richtlinie zum Training seiner Modelle nutzen, solange der Nutzer nicht widerspricht. Bei Firmenkonten wie ChatGPT Business geschieht das standardmäßig nicht.
  • Der Datenschutz bleibt bei Ihnen. Tippt ein Mitarbeiter Namen oder Daten von Kunden in sein privates Konto, gibt es zwischen Ihrer Firma und OpenAI keinen Vertrag zur Auftragsverarbeitung. Verantwortlich nach der DSGVO bleiben trotzdem Sie. Wird ein solches Konto übernommen, kann das eine Datenpanne sein, die Sie der Aufsichtsbehörde unverzüglich und möglichst binnen 72 Stunden melden müssen (Art. 33 DSGVO). Nur erfahren Sie davon gar nicht.

Ein Verbot allein hilft wenig. Wer KI im Alltag nützlich findet, nutzt sie dann eben heimlich weiter. Besser ist ein Weg, bei dem die Firma weiß, wo ihre Daten liegen.

Was Sie jetzt tun können

  • Sagen Sie Ihren Mitarbeitern, dass sie geteilte ChatGPT-Chats von Unbekannten nicht öffnen, auch wenn der Link harmlos aussieht.
  • Lassen Sie prüfen, ob in ChatGPT alte Chats mit Kunden- oder Personaldaten liegen, die niemand mehr braucht, und löschen Sie diese.
  • Fragen Sie offen und ohne Vorwurf, wer ChatGPT oder andere KI-Dienste mit einem privaten Konto für die Arbeit nutzt.
  • Geben Sie Ihren Leuten einen Firmenzugang mit Vertrag, damit Kunden- und Personaldaten nicht in private Konten wandern.
  • Legen Sie schriftlich fest, welche Daten in ChatGPT gehören und welche nicht.

Quellen

Häufige Fragen

Was ist Schatten-KI?

Schatten-KI heißt: Mitarbeiter nutzen KI-Dienste wie ChatGPT für die Arbeit, ohne dass die Firma sie eingeführt hat, meist mit dem privaten Konto. Die Firma weiß nicht, welche Daten dort liegen, und hat keinen Vertrag mit dem Anbieter.

Müssen wir jetzt etwas installieren oder ein Update einspielen?

Nein. Der Fehler lag in der Weboberfläche von ChatGPT, und OpenAI hat ihn dort behoben. Auf Ihren Rechnern ist nichts zu tun.

Waren auch Business- und Enterprise-Konten betroffen?

Das sagt der Bericht nicht. Die Forscher sprechen allgemein von jedem angemeldeten Nutzer, der den Link öffnet. Gehen Sie deshalb davon aus, dass jedes Konto gemeint sein kann, bis OpenAI etwas anderes sagt.

Woran erkennen Mitarbeiter einen gefährlichen Link?

Von außen gar nicht. Der Link sah aus wie jeder andere geteilte ChatGPT-Chat. Deshalb hilft eine einfache Regel mehr als jede Prüfung: geteilte Chats von Unbekannten nicht öffnen.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.