Kriminelle können KI-Browser kapern

News

Auch Webbrowser mit integrierten KI-Fähigkeiten haben ihre Schwachstellen. Mit einer schädlichen Browser-Erweiterung können Cyberkriminelle etwa die KI-Leiste solcher Apps durch ihre eigene ersetzen und darüber dann ihrem Opfer gefährliche Anweisungen erteilen.

(Source: freepik / freepik.com)

OpenAIs KI-fähiger Webbrowser "ChatGPT Atlas" ist erst seit wenigen Tagen, das Pendant "Comet" von Perplexity seit ein paar Monaten, verfügbar. Doch jetzt schon mehren sich die Stimmen, die vor Sicherheitsrisiken in Zusammenhang mit den KI-Tools warnen.

Ein Beispiel dafür, wie leicht Cyberkriminelle aktuelle KI-Browser manipulieren können, liefert SquareX, ein Unternehmen, welches Security-Tools für Web-Browser entwickelt, wie "Bleepingcomputer" berichtet. Das Unternehmen demonstrierte einen relativ simplen, aber effektiven Trick, der im Grunde nichts mit KI zu tun hat.

Etwas Javascript genügt

Vielmehr setzen die SquareX-Forschenden auf bekannte Techniken zur Fenstermanipulation. Konkret präparierten sie eine Website mit einer schädlichen Erweiterung. Sobald ein Opfer mit entsprechendem Browser dieses Plug-in aktiviert, läuft ein kleines Programm ab, welches die im Browser integrierte KI-Leiste verdeckt und mit einem identisch aussehenden Fenster übermalt. Möglich ist dies mit etwas Javascript, wie SquareX schreibt. Die für die Operation nötigen Zugriffsrechte entsprächen etwa jenen eines Passwortmanagers oder eines Rechtschreibetools, fügt das Unternehmen hinzu.

Ist die Fake-KI-Leiste einmal sichtbar, landen alle dort vom User eingegebenen Befehle und Fragen des Opfers bei den Cyberkriminellen. Sie können dann wiederum dafür sorgen, dass der User gefährliche KI-Antworten zurück erhält: Anstatt Fragen zu Kryptowährungen anhand seriöser Quellen zu beantworten, könnten sie ihr Opfer auf Phishing-Websites locken; und auf Fragen nach Installationsanweisungen für legitime Apps könnten sie Befehle zum Aktivieren von Malware zurückschicken, wie es bei "Bleepingcomputer" heisst.

SquareX konnte entsprechende Manipulationen auf den aktuellsten Versionen der KI-Browser von OpenAI und Perplexity vornehmen. In seiner Analyse merkt das Unternehmen an, mitunter müsse nicht einmal eine schädliche Browser-Erweiterung installiert werden. Eine präparierte Website kann demnach bereits für einen Angriff ausreichen.

In jüngster Zeit verbreiten Cyberkriminelle über Tiktok vermeintliche Aktivierungsanleitungen für beliebte Dienste wie Netflix, Spotify oder Windows. Tatsächlich handelt es sich dabei um Anleitungen zum Installieren von Malware, die den Betroffenen Informationen stiehlt, wie Sie hier lesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.