Nationalrat fordert Massnahmen gegen sexualisierte KI-Deepfakes

Der Nationalratssaal im Bundeshaus. (Source: Parlamentsdienste, Bern)

Der Nationalratssaal im Bundeshaus. (Source: Parlamentsdienste, Bern)

Es ist ein scharfer Titel, den der Grünen-Politiker Raphaél Mahaim für seine Motion gewählt hat: "Grok und sexualisierte Deepfakes. Jetzt handeln!", fordert er darin, und rennt damit beim Nationalrat offene Türen ein. Die grosse Kammer nahm die Motion stillschweigend an und schickte sie weiter in den Ständerat, wie die Parlamentsdienste mitteilen.

In der Motion erteilen Mahaim und seine Mitstreiter dem Bundesrat den Auftrag, "einen Gesetzesentwurf vorzulegen, mit welchem die Anbieter von Anwendungen generativer künstlicher Intelligenz verpflichtet werden, vor der Markteinführung der Anwendungen Risiko- und Schadensabschätzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen". Sind KI-Modelle fähig, solche Inhalte zu generieren, sollen die Anbieter dies mit Schutzmassnahmen verhindern. Schliesslich fordert die Motion die Schaffung einer Prüfinstanz. Sie soll Risikoabschätzungen und ergriffene Massnahmen prüfen und "gegebenenfalls die Anbieter sanktionieren".

In der Begründung seines Vorstosses stellt Mahaim den Bezug zu "Grok" her. Der KI-Bot des Unternehmens xAI, generierte Anfang 2026 haufenweise sexualisierte Deepfakes beliebiger Personen, darunter auch Minderjährige. Diese ohne Zustimmung erstellten Bilder wurden dann insbesondere über die Kurznachrichtenplattform X verbreitet.

Genau dies will Mahaim mit seiner Motion stoppen: "Es reicht nicht aus, Persönlichkeitsverletzungen erst nachträglich strafrechtlich zu verfolgen", begründet er den Vorstoss. "Mit generativen KI-Tools können sexualisierte Deepfakes in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite erstellt und verbreitet werden, deutlich schneller, als sie entfernt oder strafrechtlich verfolgt werden können. Anbieter digitaler Dienste, welche die Nutzung generativer KI enthalten, müssen verpflichtet werden, ihre Angebote hinsichtlich der Herstellung verbotener oder persönlichkeitsverletzender Inhalte zu prüfen."

EU-Parlament verbietet sexualisierte Deepfakes

Der Bundesrat empfiehlt die Motion zur Annahme. Der zuständige Justizminister Beat Jans verwies im Verlauf der Debatte auf die Pläne der Schweiz, die KI-Konventionen des Europarates zu ratifizieren, wie die Parlamentsdienste mitteilen. Man werde das Anliegen der Motion im Rahmen der entsprechenden Vernehmlassung aufnehmen.

In der EU könnte ein Verbot sexualisierter KI-Deepfakes bereits im September 2026 in Kraft treten. Das EU-Parlament stimmte unlängst einer entsprechenden Gesetzesänderung zu, wie einer Mitteilung zu entnehmen ist. Das Gesetz verbietet KI-Systeme, die Material über sexuellen Kindesmissbrauch generieren oder Bilder, Videos und Tonaufnahmen erstellen, die intime Bereiche einer identifizierbaren Person oder sexuell eindeutige Handlungen ohne deren Einwilligung zeigen", schreibt das EU-Parlament. Anbieter dürften entsprechende Systeme in der EU nur auf den Markt bringen, wenn sie "mit angemessenen technischen Schutzvorkehrungen ausgestattet" sind, um die Erstellung solchen Materials zu verhindern. Das Verbot gelte auch für Betreiber, welche die angebotenen Systeme zu diesem Zweck nutzten, fügt die Legislative hinzu.

"Heise" merkt dazu an, dass das Parlament sehr genau definiere, was unter das Verbot falle. Davon ausgenommen wären etwa satirische Karikaturen. Auch "nicht-einvernehmliche Bikini-Bilder, wie sie von "Grok" erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben", heisst es im Artikel.

Bevor das EU-Gesetz in Kraft tritt, muss es der EU-Rat noch förmlich genehmigen.

Lesen Sie auch: Neue KI-Bildgeneratoren lassen sich leicht dazu verleiten, sexuell explizite Inhalte zu erstellen. Dafür reichen oft bereits einfache Prompts in natürlicher Sprache aus.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.