Wikimedia entdeckt mutmassliche OpenAI-Agenten auf ihren Plattformen

(Source: Jackie Niam / AdobeStock.com)

(Source: Jackie Niam / AdobeStock.com)

Ausreissende KI-Agenten von OpenAI sorgen vermehrt für Schlagzeilen. So drangen die Agenten etwa in Systeme von Hugging Face und in ein australisches Regierungsportal ein. Nun hat auch die Wikimedia Foundation Aktivitäten von KI-Agenten festgestellt, die sie OpenAI zuordnet, wie die Stiftung in einer Mitteilung schreibt. Zuvor habe es bereits Berichte gegeben, wonach solche Agenten öffentliche Wikis für die Koordination und Kommunikation genutzt hätten.

Bei einer Untersuchung der eigenen Plattform habe man nun auch bei Wikimedia selbst Aktivitäten solcher Ausreisser festgestellt. Diese bearbeiteten laut Mitteilung Wikis, versuchten ein Notiztool der Stiftung zu missbrauchen und erzeugten grosse Mengen an Datenverkehr. Konkrete Hinweise darauf, dass sich die KI-Agenten über die Wikimedia-Systeme absprachen, fand die Stiftung jedoch nicht. Auch Systeme oder Daten seien nicht kompromittiert worden, heisst es in der Mitteilung.

Unerlaubte Änderungen an Wikis

Gemäss Mitteilung nahmen die Agenten Änderungen an Wikimedia-Wikis vor, allerdings fast ausschliesslich in Testumgebungen, sogenannten "Sandboxes". Auf Seiten, die für die allgemeine Leserschaft sichtbar sind, seien diese Bearbeitungen nicht veröffentlicht worden. Einzelne Eingriffe betrafen jedoch ein Werkzeug für Quellenangaben, wie Wikimedia schreibt. Die Agenten wollten dieses laut der Stiftung möglicherweise als Zwischenstation nutzen, um Daten von externen Diensten abzurufen.

Zudem hätten die KI-Agenten versucht, Etherpad, einen Notizdienst, den Wikimedia seiner Community zur Verfügung stellt, zu kompromittieren. Dieser Versuch blieb laut Wikimedia jedoch erfolglos. Andere Agenten nutzten demnach Etherpad, um Notizen zu ihren Aufgaben festzuhalten. Zu einer Koordination zwischen den Agenten sei es dabei aber nicht gekommen.

Datenverkehr als grösseres Problem

Das grössere Problem der ausreissenden KI-Agenten besteht laut Wikimedia im erzeugten Datenverkehr. Die Agenten stellten Millionen automatisierter Anfragen an die öffentlichen APIs und schickten Hunderttausende Abfragen an den Wikidata Query Service. Dieser Datenverkehr könnte im Mai 2026 zu einem teilweisen Ausfall des Dienstes beigetragen haben. Bereits 2025 meldete die Stiftung, dass die Bandbreitennutzung aufgrund zunehmender Bot-Aktivitäten seit 2024 um 50 Prozent gestiegen sei.

Das verursacht für die Non-Profit-Organisation höhere Kosten und kann Systeme so stark überlasten, dass auch menschliche Nutzende keinen Zugang mehr erhalten, wie Wikimedia schreibt. Hinzu komme der Aufwand der Freiwilligen und Sicherheitsteams, die diese Aktivitäten der Agenten erkennen und rückgängig machen müssten.

KI-Branche in der Pflicht

Laut der Stiftung zählt Wikipedia zu den hochwertigsten Datensätzen, mit denen Large Language Models (LLMs) trainiert werden. Dass OpenAI das Verhalten seiner Agenten als "unvorhersehbar" bezeichnet, entlässt das Unternehmen aus Sicht von Wikimedia nicht aus seiner Verantwortung. KI-Unternehmen sicherten ihre Systeme nach Ansicht der Stiftung zu wenig ab und liessen andere die Folgen tragen.

Die Stiftung fordert deshalb, dass KI-Unternehmen ihre Agenten für Website-Betreiber leicht erkennbar machen. Damit sollten Betreiber selbst entscheiden können, wie die Agenten mit ihren Diensten interagieren. Wikimedia sieht KI-Agenten zwar als Teil der Zukunft des Internets. Wer die Agenten jedoch auf das Netz loslasse und davon profitiere, müsse auch helfen, Schäden zu verhindern und zu beheben.

Das könnte Sie auch interessieren: KI-Agenten von OpenAI haben 53 Bilder von Usern ohne deren Wissen auf einer fremden Website hochgeladen. Die Bilder stammten aus Trainingsdaten, für deren Nutzung die Betroffenen ihre Zustimmung gegeben hatten. Lesen Sie hier den ganzen Artikel.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.