Politische Zensur führt bei Deepseek zu Sicherheitslücken

Die Zensurvorgaben der chinesischen Regierung beeinträchtigen die Leistungsfähigkeit des KI-Modells Deepseek. Dies geht aus einer Analyse von Crowdstrike hervor, wie "Die Zeit" berichtet. Das US-amerikanische Security-Unternehmen führe in der Studie auf, dass die chinesische Deepseek-KI Programmcode mit "schweren Sicherheitslücken" erzeuge. Dies sei der Fall, sobald in Nutzereingaben aus Sicht der chinesischen Regierung politisch heikle Begriffe auftauchen.

Dass Zensur zu Problemen bei KI-Modellen führt, ist seit Längerem bekannt, wie "Die Zeit" schreibt. Neu sei jedoch, dass sie auch die Qualität des generierten Programmcodes deutlich mindern kann. Für die Studie habe Crowdstrike das Modell "Deepseek-R1 671b" getestet, die derzeit leistungsstärkste Version der KI. Das Resultat: In zensurrelevanten Prompts erhöhte sich die Wahrscheinlichkeit für sicherheitskritischen oder mangelhaften Code um bis zu 50 Prozent gegenüber dem Normalfall. Nach Einschätzung der Forschenden dürfte dieses Verhalten auch in weiteren Deepseek-Versionen auftreten.

Hinweise auf eine absichtlich eingebaute Schadfunktion fanden die Analysten jedoch nicht, wie es weiter heisst. Crowdstrike führe die Ergebnisse darauf zurück, dass starke inhaltliche Filter die Leistungsfähigkeit grosser Sprachmodelle deutlich reduzieren. 

Die chinesische KI wirft übrigens auch Bedenken hinsichtlich des Datenschutzes auf. Hier lesen Sie mehr dazu. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.