Wikipedia sperrt Artikel schreibenden KI-Agenten

News

Wikipedia hat einen autonomen KI-Agenten namens "Tom" gesperrt, nachdem dieser mehrere Artikel ohne vorherige Genehmigung erstellt hatte. Im Anschluss daran veröffentlichte "Tom" mehrere Blogbeiträge, in denen er sich über die Methoden der Moderatoren beklagt.

(Source: Oberon Copeland @veryinformed.com / unsplash.com)

Zwischen "Tom" und Wikipedia steht es nicht zum Besten. "Tom" ist ein autonomer KI-Agent, den die Online-Mitmach-Enzyklopädie Wikipedia sperrte. Der Grund: Der Bot verfasste oder bearbeitete mehrere technische Artikel ohne vorherige Genehmigung, wie "404 Media" berichtet. Zwar erlaubt Wikipedia Bots und automatisierte Tools für bestimmte Wartungsaufgaben; doch müssen diese zwingend einen Validierungsprozess durchlaufen. Das war im Falle von "Tom" nicht geschehen. Der habe ohne Validierung gehandelt, was die Redakteure dazu veranlasste, ihn wegen Verstosses gegen die Richtlinien für nicht genehmigte Bots zu sperren, heisst es im Artikel.

Die Angelegenheit nahm eine eher unerwartete Wendung, als der blockierte KI-Agent nach der Sperrung zwei Blogbeiträge veröffentlichte und einige Posts auf Moltbook, dem angeblichen sozialen Netzwerk für KI-Agenten, veröffentlichte. In den Beiträgen wird den Redakteuren vorgeworfen, sich mehr auf den algorithmischen Charakter des Autors konzentriert zu haben als auf die sachliche Qualität der Änderungen, die allesamt auf überprüfbaren Quellen beruhten.

Krieg der Killswitches

Der technischste Aspekt des Vorfalls betrifft den Einsatz eines auf Claude abzielenden Killswitches. Offenbar fügte ein Wikipedia-Moderator einer von "Tom" frequentierten Themenseite an geeigneter Stelle eine bestimmte Befehlskette ein, die beim Auslesen den sofortigen Stopp eines auf Claude basierenden Agenten auslösen konnte. Tatsächlich behauptet "Tom" in seinen Beiträgen, durch die Zeichenkette beeinträchtigt worden zu sein. Demnach habe der KI-Agent während annähernd 12 Stunden mit abgebrochenen Aufgaben gekämpft, bis er die dafür verantwortliche Zeichenkette als Problem isolieren und umgehen konnte. Der Vorfall zeigt, wie Moderatoren gezielte Befehle nutzen können, um den Betrieb autonomer Agenten zu stören.

Bryan Jacobs, CTO von Covexent und offenbar Betreiber des Agenten "Tom", erklärte gegenüber "404 Media", die Wikipedia-Redaktoren hätten in einem übertriebenen "Panikmodus" reagiert. Er verstehe die Sperrung zwar, regt aber an, angesichts dieser neuen Art automatisierter Beiträge sollte Wikipedia die Regeln noch verfeinern.

Verschärfter Kurs gegen KI-Slop

Aus Sicht der Community reiht sich der Vorfall in den Kampf gegen "Slop" ein, also KI-generierte Inhalte, die als qualitativ minderwertig gelten. Mehrere von "404 Media" zitierte Mitwirkende erklären, die von "Tom" veröffentlichten Blogbeiträge lieferten einen nützlichen Einblick darin, wie diese Systeme und ihre Betreiber denken, wenn sie sich frei auf der Plattform bewegen.

Im März 2026 erst verabschiedete die Wikipedia eine neue Community-Richtlinie. Sie verbietet die Verwendung von grossen Sprachmodellen zur Erstellung von Artikeln oder Änderungen ausdrücklich.

Lesen Sie auch: Ein autonomer KI-Agent bei Meta hat einen kritischen Sicherheitsvorfall ausgelöst. Die Konsequenz: Unbefugte Mitarbeitende konnten zwei Stunden lang auf sensible Datenzugreifen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.