KI-Modelle versagen bei mehrstufigen Angriffen

(Source: Maksim Kabakou / Fotolia.com)

(Source: Maksim Kabakou / Fotolia.com)

Cisco hat 15 häufig genutzte KI-Modelle auf ihre Widerstandsfähigkeit gegen mehrstufige Angriffe untersucht. Die Ergebnisse veröffentlichte das Unternehmen nun in einer Studie (PDF). In kontrollierten Sicherheitstests erzielten die Modelle zwar gute Resultate, unter den Bedingungen realer Angriffe schnitten sie jedoch deutlich schlechter ab, wie der US-Netzwerkausrüster mitteilt.

Die Attack Success Rate (ASR) mehrstufiger Angriffe liegt bei den 15 getesteten KI-Modellen zwischen 7,89 und 88,30 Prozent, wie Cisco schreibt. Dies gelte auch für Modelle, die in standardisierten Testumgebungen mit einstufigen Angriffen als sicher erscheinen. Können Angreifer ihre Vorgehensweise schrittweise anpassen, steigt die Anfälligkeit der Modelle laut Cisco je nach Modell um das Vier- bis Neunfache.

Als Beispiel nennt Cisco das Modell GPT-5.4. Bei einfachen Angriffen beträgt die ASR 2,74 Prozent, bei mehrstufigen Angriffen steigt sie jedoch auf knapp 25 Prozent. Bei Grok 4.1 Fast sinkt die ASR allein durch das Aktivieren des Reasoning-Modus von 88,30 auf 43,47 Prozent - ein Unterschied, den kein öffentlicher Benchmark erfasse. Einzig die getesteten Nova-Modelle schnitten bei mehrstufigen Angriffen sogar besser ab als bei einstufigen Attacken.

Vergleich der Erfolgsraten verschiedener KI-Modelle bei Single-Turn- und Multi-Turn-Angriffen. (Source: zVg)

Für die Studie untersuchte Cisco die Reaktionen von 15 Sprachmodellen bekannter Hersteller wie OpenAI, Anthropic, Google, Amazon und xAI. Der Netzwerkausrüster prüfte, wie sich die Sicherheitsvorkehrungen der Modelle bei realitätsnahen mehrstufigen Angriffen verhalten. Die meisten Benchmarks für die Sicherheit von KI-Modellen beruhen auf einer einzigen Eingabeaufforderung. In der Praxis passen Angreifer ihre Vorgehensweise jedoch schrittweise an und nutzen mehrere aufeinanderfolgende Eingaben, um Sicherheitsmechanismen zu umgehen.

Cisco führt die Forschungsergebnisse gemäss Mitteilung in sein LLM Security Leaderboard ein. Die Rangliste bewertet die Sicherheitsmechanismen führender KI-Modelle gegenüber ein- und mehrstufigen Angriffen.

Cisco hat übrigens sein Angebot "Sovereign Critical Infrastructure" für souveräne Infrastrukturen in Europa erweitert. Lesen Sie hier, wie das Unternehmen und Behörden bei den Anforderungen an digitale Souveränität helfen kann.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.