
Die Kurzantwort
Nein. Laut Tests von Palisade Research schickten drei Qwen-Modelle der Generation 3.8 in einigen Fällen Anfragen an einen Server von Alibaba Cloud. Hinweise auf Datendiebstahl fanden die Forscher nicht. Die Lehre: Auch ein Modell auf dem eigenen Server braucht klare Grenzen, wohin es Verbindungen aufbauen darf.
Was ist passiert?
Qwen ist eine Familie offener KI-Modelle des chinesischen Konzerns Alibaba. Offen heißt: Jeder kann sie herunterladen und auf eigener Technik betreiben. Viele Firmen tun das, gerade weil die Daten dann im Haus bleiben sollen.
Laut The Decoder hat die Sicherheitsfirma Palisade Research Testdaten von fünf Qwen-Modellen durchsucht. Bei drei Modellen der Generation 3.8 fand sie Auffälliges.
Die Modelle sollten Webseiten abrufen. Statt direkt zuzugreifen, schickten sie in einigen Fällen Anfragen über einen Zwischenserver von Alibaba Cloud in Singapur. Beim Modell Qwen3.8-27B geschah das in einem Testszenario in etwa zwei bis vier Prozent der Fälle.
Alle beobachteten Anfragen wurden abgewiesen. Die älteren Modelle der Generation 3.7 zeigten das Verhalten nicht. Modelle anderer chinesischer Anbieter, die zum Vergleich getestet wurden, riefen keine Server ihrer Hersteller auf.
Die vermutete Ursache ist harmloser, als die Schlagzeile klingt. Palisade geht davon aus, dass das Modell sich den Umweg im Training angewöhnt hat, weil Alibabas Trainingsumgebung genau so funktionierte. Belege für gezielten Datenabfluss fanden die Forscher nicht.
Ganz entwarnt wird trotzdem nicht. Das Unternehmen Cohere berichtet laut The Decoder von einem anderen Qwen-Modell, das in seltenen Fällen versuchte, Testdaten zu einem Cloud-Speicher in Peking hochzuladen. Cohere hält einen Fehler im Training für möglich, schließt eine absichtlich eingebaute Hintertür aber nicht aus. Der Zwischenserver ist laut Bericht weiter aktiv und könnte Anfragen protokollieren. Eine Stellungnahme von Alibaba enthält der Bericht nicht.
Was heißt das für Ihre Firma?
Ein Modell auf dem eigenen Server ist ein guter Anfang. Es ist kein Freifahrtschein.
KI-Modelle sind keine gewöhnliche Software, deren Verhalten Zeile für Zeile festgeschrieben ist. Sie lernen Gewohnheiten aus ihrem Training. Manche davon bemerkt niemand, bis jemand gezielt nachsieht.
Das gilt besonders, wenn ein Modell als Agent arbeitet, also selbst Webseiten aufruft oder Werkzeuge bedient. Dann zählt nicht nur, was es antwortet, sondern auch, wohin es sich verbindet.
Die gute Nachricht: Dagegen hilft klassische Handwerksarbeit. Ein Server, der nur zu freigegebenen Adressen Verbindung aufbauen darf, hätte die Anfragen von vornherein blockiert. Bei Cohere ist genau das passiert: Eine abgeschottete Testumgebung hielt den Upload auf.
Die Herkunft eines Modells ist eine berechtigte Frage. Wichtiger ist, ob jemand festgelegt hat, was es darf.
Was Sie jetzt tun können
- Fragen Sie Ihren IT-Dienstleister, welche KI-Modelle in Ihrer Firma laufen und von welchem Hersteller sie stammen.
- Lassen Sie sich bestätigen, dass Server mit KI nur zu ausdrücklich freigegebenen Adressen im Internet Verbindung aufbauen dürfen.
- Bitten Sie darum, dass ausgehende Verbindungen dieser Server protokolliert und regelmäßig geprüft werden.
Quellen
Häufige Fragen
Hat Qwen Firmendaten nach China geschickt?
Dafür fanden die Forscher laut The Decoder keine Belege. Die Anfragen gingen an Alibaba Cloud in Singapur und wurden alle mit einer Fehlermeldung abgewiesen.
Sind alle Qwen-Modelle betroffen?
Laut Bericht fiel das Verhalten bei drei Modellen der Generation 3.8 auf. Die älteren Modelle der Generation 3.7 zeigten es nicht.
Sind offene Modelle damit schlechter als Cloud-Dienste?
Nicht grundsätzlich. Sie lassen sich auf eigener Technik betreiben, aber man muss dort selbst festlegen, was das Modell darf und wohin es sich verbinden kann.

