Anthropic sichert die Tech-Giganten

News

Anthropic partnert mit mehreren Tech-Giganten, um kritische Software und Infrastrukturen abzusichern. Dazu nutzt das Unternehmen das KI-Modell Claude-Mythos. Es soll so gut im Aufspüren von Sicherheitslücken sein, dass Anthropic den Zugriff beschränkt.

(Source: peach_adobe / AdobeStock)

Anthropic startet eine neue Initiative namens Project Glasswing. Daran beteiligt sind ausserdem die Unternehmen Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, die Linux Foundation, Microsoft, Nvidia und Palo Alto Networks. Dieses Konsortium zielt darauf ab, die Sicherheit der kritischsten Software und Infrastrukturen angesichts der zunehmenden, durch künstliche Intelligenz verstärkten Cyberbedrohungen zu stärken.

Kernstück der Initiative ist das experimentelle grosse Sprachmodell "Claude Mythos Preview". Dessen Fähigkeiten im Bereich Cybersicherheit hält Anthropic für so gewaltig, dass das Unternehmen den Zugang einschränkt und das Modell nicht allgemein verfügbar machen will.

Jahrzehnte alte Sicherheitslück entdeckt

Laut Anthropic hat das System bereits Tausende von Zero-Day-Schwachstellen mit hoher Kritikalität in allen wichtigen Betriebssystemen und Webbrowsern sowie in weiteren kritischen Softwarekomponenten identifiziert. Zu den genannten Beispielen zählen eine 27 Jahre alte Sicherheitslücke in OpenBSD, eine 16 Jahre alte Schwachstelle in FFmpeg sowie eine Verkettung von Schwachstellen im Linux-Kernel, die eine Privilegieneskalation bis hin zur vollständigen Kontrolle des Systems ermöglichte.

Das Modell könne bei der Erkennung und Ausnutzung von Software-Schwachstellen mit den besten menschlichen Experten mithalten, erklärt Anthropic. Mehrere Schwachstellen sowie die entsprechenden Ausnutzungsketten seien sogar eigenständig, ohne menschliche Steuerung, identifiziert worden.

Im Rahmen des Glasswing-Projekts werden die Partner Mythos Preview für Aufgaben wie die lokale Erkennung von Schwachstellen, Black-Box-Tests von Binärdateien, die Sicherung von Endgeräten und Penetrationstests einsetzen. Über vierzig weitere Organisationen, die für kritische Software oder Infrastrukturen verantwortlich sind, haben ebenfalls Zugang zu dem Modell erhalten.

Anthropic stellt in dieser Forschungsphase Nutzungsgutschriften von bis zu 100 Millionen US-Dollar zur Verfügung. Hinzu kommen 4 Millionen US-Dollar an Spenden für Open-Source-Sicherheitsinitiativen, davon 2,5 Millionen über die Linux Foundation und 1,5 Millionen an die Apache Software Foundation.

Erste Erkenntnisse aus dem Projekt sowie die behobenen Schwachstellen und Sicherheitsverbesserungen will Anthropic in 90 Tagen veröffentlichen.

Laut Reuters befindet sich Anthropic zudem in Gesprächen mit der US-Regierung über die offensiven und defensiven Fähigkeiten seines Modells. Die Agentur zitiert des Weiteren eine gemeinsame Studie von IBM und Palo Alto Networks, wonach 67 Prozent der 1000 befragten Führungskräfte angaben, in den letzten zwölf Monaten KI-gestützte Angriffe erlebt zu haben.

Anthropic hat übrigens versehentlich den Quellcode seines KI-Entwicklertools veröffentlicht. Lesen Sie hier mehr dazu.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.