KI-Agent hackt KI-Plattform von McKinsey

News

Ein KI-Agent hat sich in weniger als zwei Stunden umfassenden Zugriff auf den internen GenAI-Chatbot von McKinsey verschafft. Die Forschenden, die den Angriff demonstrierten, hätten so 46,5 Millionen Nachrichten einsehen und auf Zehntausende Mitarbeiterkonten zugreifen können.

(Source : freepik / Freepik.com)

McKinsey kann von Glück im Unglück reden. Das international tätige Beratungsunternehmen musste unlängst eine Schwachstelle in "Lilli" beheben, seinem hauseigenen KI-Assistenten, den rund 40'000 Angestellte nutzen. Wie die "Financial Times" (Paywall) berichtet, meldete die Schwachstelle ein Unternehmen Namens Codewall. Es identifiziert und meldet Sicherheitslücken, damit betroffene Firmen diese rasch schliessen können.

McKinsey-Mitarbeitende nutzen das betroffene Chat-Tool "Lilli" etwa, um Analysen vorzubereiten, Strategien zu entwickeln oder Dokumente für Kunden zu erstellen. Codewall gibt an, über die Schwachstelle Zugriff auf eine grosse Datenmenge erlangt zu haben. Dies gelang mithilfe eines KI-Agenten, der darauf ausgelegt ist, Schwachstellen automatisch zu erkennen.

"In weniger als zwei Stunden verfügte der Agent über vollständigen Lese- und Schreibzugriff auf die Produktionsdatenbank", erklärt das Unternehmen in einem eigenen Artikel. Durch den Einbruch hätten angeblich 46,5 Millionen auf der Plattform ausgetauschte Nachrichten eingesehen werden können. Das Team hatte zudem Zugriff auf 57'000 Benutzerkonten, 384'000 KI-Assistenten und 94'000 geteilte Arbeitsbereiche.

Die Analyse habe zudem Einblicke in die interne Konfiguration des Systems ermöglicht, einschliesslich der Anweisungen und Parameter, die den Betrieb von "Lilli" regeln. Diese wiederum zeigen, wie McKinsey die KI konfigurierte und welche Sicherheitsvorkehrungen bestehen.

McKinsey teilt mit, Ende Februar über die Sicherheitslücke informiert worden zu sein. Man konnte das Problem bestätigen und es innerhalb weniger Stunden mit einen Patch beheben, zitiert die "Financial Times" das Unternehmen. Gleichzeitig habe man seine Entwicklungsumgebung offline genommen. Die Unternehmensberatung versichert, dass keine vertraulichen Kundendaten eingesehen wurden.

Der Vorfall ereignet sich zu einer Zeit, in der McKinsey seine Expertise im Bereich der künstlichen Intelligenz hervorhebt. Nach Angaben des Unternehmens machen AI-bezogene Aufträge mittlerweile etwa 40 Prozent seines Umsatzes aus.

Lesen Sie auch: Ein interner KI-Agent von Amazon Web Services (AWS) hat im Dezember 2025 eigenständig eine Produktionsumgebung gelöscht und somit einen Dienst für 13 Stunden lahmgelegt. Der Vorfall schürt die Debatte, wie viel Autonomie solche Systeme in kritischen Umgebungen haben dürfen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.