OpenAI schickt neues KI-Modell auf Schwachstellensuche

News

OpenAI stellt mit "GPT-6 Cyber" ein neues KI-Modell für die Cybersicherheit vor. Es soll Sicherheitslücken aufspüren, deren Ausnutzbarkeit überprüfen und bei der Entwicklung von Patches helfen. In Tests entdeckte das Modell unter anderem 81 bislang unbekannte Schwachstellen in Firefox.

(Source: Paisan - Stock.Adobe.com)

OpenAI hat mit "GPT-6 Cyber" ein neues KI-Modell vorgestellt, das Sicherheitslücken in Software aufspüren und deren Ausnutzbarkeit überprüfen soll. Wie das Unternehmen mitteilt, kann das Modell auch funktionsfähige Exploits entwickeln und bei der Behebung von Schwachstellen helfen. Gegenüber dem Vorgänger GPT-5.6 Cyber habe es bei verschiedenen Sicherheitstests deutlich besser abgeschnitten, schreibt OpenAI.

Bei der Untersuchung von Firefox entdeckte GPT-6 Cyber laut dem KI-Unternehmen 81 bislang unbekannte Schwachstellen, die Mozilla als schwerwiegend einstufte. Für zahlreiche davon habe Mozilla bereits Korrekturen veröffentlicht. Zudem entwickelte das Modell bei Untersuchungen des Linux-Kernels funktionsfähige Exploits für 948 Schwachstellen, wie es weiter heisst.

Auch in standardisierten Tests zeigte sich gemäss OpenAI eine Leistungssteigerung. Im Benchmark "ExploitGym", der die Ausnutzung vorgegebener Sicherheitslücken prüfe, habe GPT-6 Cyber eine Erfolgsquote von 48,5 Prozent erzielt. Das Vorgängermodell sei lediglich auf 32,1 Prozent gekommen.

Zugang zunächst beschränkt

Mit den erweiterten Fähigkeiten steigen allerdings auch die Risiken eines Missbrauchs. Eigenen Angaben zufolge hat OpenAI GPT-6 Cyber deshalb darauf trainiert, sich an die Vorgaben von Sicherheitsforschenden zu halten und keine Systeme ausserhalb des erlaubten Untersuchungsbereichs anzugreifen. In einem entsprechenden Test hielt sich das Modell mit zusätzlichen Sicherheitsanweisungen laut OpenAI in sämtlichen Fällen an diese Grenzen.

GPT-6 Cyber stehe zunächst nur ausgewählten, überprüften Kunden des Sicherheitsprogramms "Daybreak Red" über die API und Codex zur Verfügung. OpenAI wolle den Zugang schrittweise ausweiten. Zum Einsatz komme das Modell bereits bei Sicherheitsteams von Unternehmen wie Cisco und Coderabbit.

OpenAI baut seine Zusammenarbeit mit Oracle aus - auch im Bereich Cybersicherheit. Mit "AI Security Mesh" setzt Oracle nämlich auf die Cyber-Modelle von OpenAI, um Schwachstellen in Anwendungen und Infrastrukturen zu identifizieren und zu beheben.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.