mindprio®

mindprio® in 90 Sekunden

Tagesüberblick ·

KI mit Zugang zu Firmensystemen: Wo liegen bei uns die Schlüssel?

Angriff bei Mittwald über die KI-Schnittstelle, Notion-KI-Chats bei einem Dienstleister erbeutet, ChatGPT-Agenten bekommen Regeln. Der Tag im Überblick.

Von Stephan Grosser3 Minuten Lesezeit
KI mit Zugang zu Firmensystemen: Wo liegen bei uns die Schlüssel?

Die Kurzantwort

Überall dort, wo ein KI-Werkzeug an Daten oder Firmensysteme angeschlossen ist. Bei Mittwald kamen Angreifer über die Schnittstelle für KI-Assistenten herein, bei Notion über einen KI-Dienstleister. Dazu bekommen ChatGPT-Agenten Freigaberegeln, und Claude kann in Google-Meet-Gesprächen mitschreiben.

Zwei Vorfälle, eine Lehre: Wo KI an Firmensysteme angeschlossen ist, entsteht eine neue Tür. Heute geht es darum, wer sie aufschließen darf.

Bei Mittwald kamen Angreifer über die KI-Schnittstelle

Der deutsche Webhoster hatte eine Verbindung angeboten, über die Kunden ihr Hosting von einem KI-Assistenten verwalten lassen konnten. Genau dort wurde eingebrochen. Wer diese Verbindung genutzt hat, hat jetzt eine Liste abzuarbeiten. Alle anderen sollten wissen, welche KI-Verbindungen bei ihnen Zugang haben.

Ganzer Artikel

Notion-KI-Chats lagen bei einem Dienstleister offen

Notion ließ einen Teil seiner KI bei einer anderen Firma rechnen, und dort wurden Chat-Protokolle erbeutet. Betroffen ist nur ein kleiner Teil der Kunden, und die wurden angeschrieben. Die Lehre für alle: Was Ihre Leute in ein KI-Werkzeug tippen, wandert durch eine Kette von Firmen. Passwörter gehören da nicht hinein.

Ganzer Artikel

ChatGPT-Agenten bekommen Regeln, aber keine Sperren

Die persönlichen Agenten in ChatGPT lassen sich jetzt anweisen, vor einer Mail an Kunden zu fragen. Das ist der richtige Grundsatz. Eine echte Grenze ziehen aber nur die Zugriffsrechte, und in Enterprise-Arbeitsbereichen sind die Agenten ab 18. November für alle an, wenn niemand widerspricht.

Ganzer Artikel

Claude kann im Kundentermin mitschreiben

Mit Claude Meetings sitzt die KI als Teilnehmer in Google-Meet-Gesprächen. Im Team-Plan ist das ab Werk erlaubt, auch mit externen Gästen, im Enterprise-Plan erst nach Freigabe. Klären Sie vorher, wann Ihre Leute das nutzen und wie sie Kunden fragen.

Ganzer Artikel

Gemini lernt Ihre Hausregeln

Mit Skills in Google Workspace hinterlegen Teams Vorlagen und Regeln, nach denen Gemini in Gmail, Docs und anderen Programmen arbeitet. Firmen mit „Scheduled Release“ bekommen das ab 30. November, und dann ist es eingeschaltet. Vorerst nur mit englischen Anweisungen, und nur so gut wie die Vorlagen dahinter.

Ganzer Artikel

Google hat ein neues Alltagsmodell

Google hat am 12. November Gemini 4 Hydrogen vorgestellt, ein schnelles Modell für alltägliche Aufgaben. Gedacht ist es für alle, die bisher Gemini 3.8 Flash nutzen. Es steht über die Schnittstelle, in der Gemini-App, in der Google-Suche und für berechtigte Business-Abos in Google Sheets bereit. Für Sie: Wer Gemini über die Schnittstelle in eigene Abläufe eingebaut hat, sollte den neuen Preis von 1,50 Dollar je Million Eingabe-Tokens und 7,50 Dollar je Million Ausgabe-Tokens mit den bisherigen Kosten vergleichen.

Quelle: Google

OpenAI lässt Agenten Sicherheitslücken suchen

OpenAI hat am 12. November Daybreak Red Team vorgestellt: Agenten prüfen Programmcode darauf, ob sich Schwachstellen wirklich ausnutzen lassen. Ein zweites Werkzeug, Defense Factory, schlägt dazu passende Korrekturen vor. Red Team startet mit ausgewählten Kunden und einer Warteliste, Preise nennt OpenAI noch nicht. Für Sie: Wenn Sie ein eigenes Kundenportal oder eigene Software betreiben, ist das eines Tages eine Ergänzung zum Sicherheitstest, heute aber noch kein fertiges Angebot.

Quelle: The Deep View

United sperrt fremde KI-Agenten beim Buchen

Die US-Fluggesellschaft hat am 11. November angekündigt, den Zugang für persönliche KI-Assistenten einzuschränken, die sie nicht zugelassen hat, auf den eigenen digitalen Kanälen und über Reisebüros und Buchungsportale. Als Gründe nennt United offengelegte Zugangsdaten, ungewollte Käufe und Kontoänderungen sowie Vorschriften, die eine Bestätigung durch einen Menschen verlangen. Für Sie: Wer Dienstreisen künftig von einem KI-Agenten buchen lassen will, sollte nicht davon ausgehen, dass jeder Anbieter das zulässt.

Quelle: United Airlines

Spracherkennung lässt Anrufer ausreden

ElevenLabs hat am 10. November Scribe v3 vorgestellt, eine neue Spracherkennung, die laut Hersteller im Deutschen 42 Prozent weniger Fehler macht als die Vorgängerversion. Die Live-Variante achtet auf den Gesprächszusammenhang, damit ein Anrufer, der mitten in einer Nummer kurz stockt, nicht unterbrochen wird. Für Sie: Wenn bei Ihnen eine KI ans Telefon geht, fragen Sie Ihren Anbieter, wie gut sie Anrufer ausreden lässt und welche Spracherkennung dahintersteht.

Quelle: ElevenLabs

Quellen

Häufige Fragen

Wir nutzen weder Mittwald noch Notion. Betrifft uns das trotzdem?

Nicht direkt. Aber beide Fälle haben denselben Kern: Ein KI-Werkzeug hatte Zugang zu Daten oder Systemen, und der Angriff kam über diese Verbindung. Eine Liste, welche KI-Werkzeuge bei Ihnen woran angeschlossen sind, lohnt sich deshalb für jede Firma.

Reicht es, dem ChatGPT-Agenten zu sagen, dass er vor Kundenmails fragen soll?

Es hilft, aber es ist keine Sperre. OpenAI schreibt selbst, dass der Agent sich an Regeln nur zu halten versucht. Sicher ist nur, was er gar nicht erst darf: Ohne Zugriff auf das Postfach verschickt er keine Mail.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.