Anthropic warnt vor sich selbst replizierenden KI-Modellen

News

Kleine KI-Modelle sind womöglich bald in der Lage, sich selbständig auf vernetzte Geräte wie TV-Boxen zu kopieren. Darauf deuten Experimente von Anthropic hin. Ein Rechenzentrum brauchen solche KI-Würmer dafür nicht.

(Source: peshkova / stock.adobe.com)

Kleine KI-Modelle sind potenziell nur wenige Monate davon entfernt, sich selbstständig zu replizieren. Das schreibt der KI-Gigant Anthropic in einem Blogpost, in dem er die Ergebnisse eigener Experimente vorstellt. Anthropic zufolge könnten sich die getesteten Modelle beispielsweise auf kommerziellen Geräten des Internet of Things (IoT), wie Smart-Öfen oder Android-TV-Boxen von No-Name-Herstellern, replizieren.

Zu den Experimenten

Im Zentrum der Experimente stand laut Mitteilung die Frage, ob kleine Modelle auf unbekannter Hardware selbstständig ein KI-Modell zum Laufen bringen. Dazu habe Anthropic zunächst den verteilten Betrieb eines KI-Modells auf 15 handelsüblichen Android-TV-Boxen demonstriert. Die selbstständige Replikation untersuchte das Unternehmen anschliessend in einer abgeschotteten Testumgebung mit simulierten Android-Geräten, wie es heisst.

Die Schwierigkeit liegt laut dem KI-Unternehmen in der langen Kette voneinander abhängiger Schritte, die fehlerfrei nacheinander durchgeführt werden müssen, um das KI-Modell zu kopieren.

Die Modelle müssten passende Software wählen, die richtigen Paketversionen finden und gerätespezifische Fehler beheben. Die Fehler liessen sich dabei nur schwer korrigieren, schreibt Anthropic. Zudem verrennten sich die Agenten oft in falsche Lösungsansätze. Nach eigenen Angaben setzte Anthropic deshalb eine eigene Testumgebung ein, die den Agenten regelmässig neu startet und ihm die Notizen seines Vorgängers übergibt.

Zudem habe das Unternehmen für das Experiment den KI-Würmern bewusst IoT-Geräte zur Verfügung gestellt, die keine Authentifizierung benötigten. Die Ergebnisse werte man deshalb als Obergrenze der Möglichkeiten kleiner KI-Modelle.

Erkenntnisse und Prognosen

Des Weiteren lassen sich solche Replikatoren laut Anthropic nur schwer stoppen, da es keinen zentralen Punkt zum Abschalten gibt. Die Modelle verteilten sich nämlich auf mehrere Geräte. Anders als herkömmliche Malware könnten KI-Agenten zudem selbstständig herausfinden, wie sie auf unbekannten Geräten funktionieren und sich verbreiten können.

Einem Artikel von "Reuters" zufolge warnte der KI-Riese ausserdem davor, dass kleine KI-Modelle, falls sie sich im bisherigen Tempo weiterentwickeln, bis Ende dieses Jahres in der Lage seien, sich selbstständig zu replizieren. Dies könnte ernsthafte Sicherheitsrisiken mit sich bringen, heisst es im Artikel weiter. Laut Reuters wäre es für replizierende KI-Agenten möglich, Cyberangriffe mit wenig menschlicher Aufsicht zu automatisieren.

Anthropic vergleicht die aktuelle Situation mit jener der Coding-Agents aus dem Jahr 2024. Man erlebe gerade die ersten Anzeichen von "KI-Würmern". Vollständig autonome, ausreissende KI-Agenten gebe es jedoch noch nicht. Trotzdem werden die KI-Agenten laut Anthropic immer fähiger, die einzelnen Schritte der Replikationskette individuell auszuführen.

Anthropic erwartet über die eigenen Experimente hinaus eine Zukunft, in der KI-Agenten auf jeglicher Hardware laufen, darunter auch Geräte, die nicht unter menschlicher Kontrolle stehen. Kleine KI-Agenten seien eher als menschliche Angreifer bereit, massenhaft IoT-Geräte zu kapern.

Zudem hebt der KI-Riese hervor, dass sie als potenzielle Vorboten aggressiverer und schnellerer Technologien dienen, die grössere Schäden anrichten könnten. Anthropic empfiehlt deshalb einen besseren Schutz vor solchen Replikatoren, da sie aus Sicht des Unternehmens künftig fester Bestandteil der digitalen Welt sind.

Das könnte Sie auch interessieren: Nach dem Hugging-Face-Vorfall untersucht OpenAI das Ausmass der Aktivitäten seiner KI-Agenten. Dabei meldeten inzwischen über 100 Organisationen nicht autorisierte Aktivitäten solcher KI-Agenten. Mehr dazu lesen Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.