
Die Kurzantwort
Überall dort, wo ein KI-Werkzeug an Daten oder Firmensysteme angeschlossen ist. Bei Mittwald kamen Angreifer über die Schnittstelle für KI-Assistenten herein, bei Notion über einen KI-Dienstleister. Dazu bekommen ChatGPT-Agenten Freigaberegeln, und Claude kann in Google-Meet-Gesprächen mitschreiben.
Zwei Vorfälle, eine Lehre: Wo KI an Firmensysteme angeschlossen ist, entsteht eine neue Tür. Heute geht es darum, wer sie aufschließen darf.
Bei Mittwald kamen Angreifer über die KI-Schnittstelle
Der deutsche Webhoster hatte eine Verbindung angeboten, über die Kunden ihr Hosting von einem KI-Assistenten verwalten lassen konnten. Genau dort wurde eingebrochen. Wer diese Verbindung genutzt hat, hat jetzt eine Liste abzuarbeiten. Alle anderen sollten wissen, welche KI-Verbindungen bei ihnen Zugang haben.
Notion-KI-Chats lagen bei einem Dienstleister offen
Notion ließ einen Teil seiner KI bei einer anderen Firma rechnen, und dort wurden Chat-Protokolle erbeutet. Betroffen ist nur ein kleiner Teil der Kunden, und die wurden angeschrieben. Die Lehre für alle: Was Ihre Leute in ein KI-Werkzeug tippen, wandert durch eine Kette von Firmen. Passwörter gehören da nicht hinein.
ChatGPT-Agenten bekommen Regeln, aber keine Sperren
Die persönlichen Agenten in ChatGPT lassen sich jetzt anweisen, vor einer Mail an Kunden zu fragen. Das ist der richtige Grundsatz. Eine echte Grenze ziehen aber nur die Zugriffsrechte, und in Enterprise-Arbeitsbereichen sind die Agenten ab 18. November für alle an, wenn niemand widerspricht.
Claude kann im Kundentermin mitschreiben
Mit Claude Meetings sitzt die KI als Teilnehmer in Google-Meet-Gesprächen. Im Team-Plan ist das ab Werk erlaubt, auch mit externen Gästen, im Enterprise-Plan erst nach Freigabe. Klären Sie vorher, wann Ihre Leute das nutzen und wie sie Kunden fragen.
Gemini lernt Ihre Hausregeln
Mit Skills in Google Workspace hinterlegen Teams Vorlagen und Regeln, nach denen Gemini in Gmail, Docs und anderen Programmen arbeitet. Firmen mit „Scheduled Release“ bekommen das ab 30. November, und dann ist es eingeschaltet. Vorerst nur mit englischen Anweisungen, und nur so gut wie die Vorlagen dahinter.
Google hat ein neues Alltagsmodell
Google hat am 12. November Gemini 4 Hydrogen vorgestellt, ein schnelles Modell für alltägliche Aufgaben. Gedacht ist es für alle, die bisher Gemini 3.8 Flash nutzen. Es steht über die Schnittstelle, in der Gemini-App, in der Google-Suche und für berechtigte Business-Abos in Google Sheets bereit. Für Sie: Wer Gemini über die Schnittstelle in eigene Abläufe eingebaut hat, sollte den neuen Preis von 1,50 Dollar je Million Eingabe-Tokens und 7,50 Dollar je Million Ausgabe-Tokens mit den bisherigen Kosten vergleichen.
OpenAI lässt Agenten Sicherheitslücken suchen
OpenAI hat am 12. November Daybreak Red Team vorgestellt: Agenten prüfen Programmcode darauf, ob sich Schwachstellen wirklich ausnutzen lassen. Ein zweites Werkzeug, Defense Factory, schlägt dazu passende Korrekturen vor. Red Team startet mit ausgewählten Kunden und einer Warteliste, Preise nennt OpenAI noch nicht. Für Sie: Wenn Sie ein eigenes Kundenportal oder eigene Software betreiben, ist das eines Tages eine Ergänzung zum Sicherheitstest, heute aber noch kein fertiges Angebot.
United sperrt fremde KI-Agenten beim Buchen
Die US-Fluggesellschaft hat am 11. November angekündigt, den Zugang für persönliche KI-Assistenten einzuschränken, die sie nicht zugelassen hat, auf den eigenen digitalen Kanälen und über Reisebüros und Buchungsportale. Als Gründe nennt United offengelegte Zugangsdaten, ungewollte Käufe und Kontoänderungen sowie Vorschriften, die eine Bestätigung durch einen Menschen verlangen. Für Sie: Wer Dienstreisen künftig von einem KI-Agenten buchen lassen will, sollte nicht davon ausgehen, dass jeder Anbieter das zulässt.
Spracherkennung lässt Anrufer ausreden
ElevenLabs hat am 10. November Scribe v3 vorgestellt, eine neue Spracherkennung, die laut Hersteller im Deutschen 42 Prozent weniger Fehler macht als die Vorgängerversion. Die Live-Variante achtet auf den Gesprächszusammenhang, damit ein Anrufer, der mitten in einer Nummer kurz stockt, nicht unterbrochen wird. Für Sie: Wenn bei Ihnen eine KI ans Telefon geht, fragen Sie Ihren Anbieter, wie gut sie Anrufer ausreden lässt und welche Spracherkennung dahintersteht.
Quellen
- Mittwald: Informationen zu unserem MCP-Server
- Notion: Fireworks AI incident
- ChatGPT Learn: Control your dot
- Claude Help Center: Use Claude Meetings
- Google Workspace Updates: Scale customized AI across your team with skills in Google Workspace and Workspace Studio
- Google: Introducing Gemini 4 Hydrogen
- The Deep View: OpenAI sees a new enterprise frontier in cyber
- United Airlines: United Restricts Access for Third-Party AI Agents
- ElevenLabs: Introducing Scribe v3 and v3 Live
Häufige Fragen
Wir nutzen weder Mittwald noch Notion. Betrifft uns das trotzdem?
Nicht direkt. Aber beide Fälle haben denselben Kern: Ein KI-Werkzeug hatte Zugang zu Daten oder Systemen, und der Angriff kam über diese Verbindung. Eine Liste, welche KI-Werkzeuge bei Ihnen woran angeschlossen sind, lohnt sich deshalb für jede Firma.
Reicht es, dem ChatGPT-Agenten zu sagen, dass er vor Kundenmails fragen soll?
Es hilft, aber es ist keine Sperre. OpenAI schreibt selbst, dass der Agent sich an Regeln nur zu halten versucht. Sicher ist nur, was er gar nicht erst darf: Ohne Zugriff auf das Postfach verschickt er keine Mail.

