Der Schwarzmarkt für KI-Zugänge floriert

News

Mit gestohlenen Zugangsdaten und missbrauchten Gratisguthaben verschaffen sich Cyberkriminelle Zugang zu KI-Modellen zu stark reduzierten Preisen. Gemäss einer Okta-Studie nutzen sie gestohlene Sitzungstoken, API-Schlüssel und gefälschte Konten für Testversionen, so entsteht eine Art Schwarzmarkt für den Zugriff auf KI-Modelle.

(Source: macrovector_official / magnific.com)

Die steigenden Kosten für die Nutzung von KI-Modellen eröffnen Cyberkriminellen neue Möglichkeiten. In einer Studie über den Schwarzmarkt für KI-Zugänge beschreibt "Okta Threat Intelligence" ein ganzes Ökosystem, illegaler Aktivitäten rund um KI-Zugänge. Dabei ermöglichen gestohlene Zugangsdaten und missbräuchlich verwendete Werbegutschriften es, KI-Modelle zu stark reduzierten Preisen anzubieten. Die beobachteten Preisnachlässe würden teilweise 70 bis 90 Prozent des originalen Preises betragen.

Zugriffsdiebstahl als häufigster Angriffsweg

Der häufigste von Okta identifizierte Mechanismus basiert auf dem Missbrauch bestehender Zugänge. Insbesondere Infostealer-Malware greift in Browsern gespeicherte Sitzungstoken und Application Programming Interface (API)-Schlüssel ab. Mit einem gültigen Sitzungstoken kann ein Angreifer eine bereits bestehende authentifizierte Verbindung übernehmen, ohne einen Anmeldebildschirm oder eine Multi-Faktor-Authentifizierung zu durchlaufen.

Um das Ausmass des Phänomens zu erfassen, hat Okta einen auf Telegram veröffentlichten 7 Gigabyte grossen Datensatz analysiert, der von 5871 kompromittierten Rechnern aus 162 Ländern stammte. Der Datensatz enthielt tausende noch gültige Authentifizierungstoken sowie mehrere Dutzend gespeicherte API-Schlüssel. Zu den in dieser Stichprobe aufgeführten Diensten gehören insbesondere Google, Microsoft, Amazon und Anthropic. Okta betont jedoch, dass diese Zahlen keinen direkten Vergleich des Ausmasses der Kompromittierung der verschiedenen Anbieter darstellen. Im Falle von Google, Microsoft oder Amazon zählte das Unternehmen Token derer Single-Sign-On-Systeme, die nicht ausschliesslich ihre KI-Dienste betreffen.

Die Studie identifizierte zudem mehrere tausend JSON-Web-Token. Fast 18 Prozent davon enthielten personenbezogene Daten, wie Namen, Telefonnummern oder E-Mail-Adressen, Informationen, die laut Okta anschliessend missbraucht werden könnten.

Kostenlose Testversionen umgewandelt

Ein weiterer Betrugsmechanismus besteht darin, kostenlose Testversionen und Cloud-Guthaben zu missbrauchen. Einige Anbieter sollen in grossem Umfang gefälschte Konten erstellen, um Aktionsguthaben anzuhäufen, und anschliessend die Anfragen ihrer eigenen Kunden über diese Konten zu leiten.
Okta nennt insbesondere den Dienst "Poison Claude", der unter Ausnutzung von AWS-Guthaben Zugang zu Modellen von Anthropic zu reduzierten Preisen anbieten soll. Eine falsch konfigurierte API-Schnittstelle habe es den Forschern ermöglicht, fast 900 aktive Nutzer zu beobachten. Ein weiterer in der Studie erwähnter Dienst nutzt Guthabenprogramme für Start-ups aus.
Der Betrug kann ein industrielles Ausmass erreichen. Bei einem KI-Video-Unternehmen, das kostenlose Testversionen anbietet, hat Okta nach eigenen Angaben innerhalb eines Monats mehr als 105.000 Versuche zur Kontoerstellung beobachtet, die von nur 251 IP-Adressen stammten. Die Analyse der E-Mail-Domains zeigt zudem ein ganz anderes Profil bei den vermutlich automatisierten Registrierungen. Outlook.com liege hier mit grossem Abstand an der Spitze, während Gmail bei den Registrierungen insgesamt mit grossem Abstand dominiere.

(Source: Okta, Inside the underground market for AI access)

Abgesehen von den finanziellen Kosten für die Besitzer der kompromittierten Konten erschwert diese Schattenwirtschaft auch die Zuordnung böswilliger Aktivitäten. Die Vorgänge scheinen nämlich von legitimen, missbrauchten Konten auszugehen. Um dieses Risiko zu minimieren, empfiehlt Okta insbesondere eine kontinuierliche Überwachung der Sitzungen, Einschränkungen bei API-Schlüsseln sowie den Einsatz von Phishing-resistenten Authentifizierungsmethoden wie Passkeys.

Erst vor kurzem erkannte Okta die unkontrollierte Nutzung von KI-Agenten die für Unternehmen zum Sicherheitsrisiko werden könnte. Mit ihrem neuen Werkzeug "Agent Discovery" wollen sie diese Schatten-KI aufspüren und nicht-menschliche Identitäten unter Kontrolle bringen. Mehr dazu lesen Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.