Politische Zensur führt bei Deepseek zu Sicherheitslücken
Die Zensurvorgaben der chinesischen Regierung beeinträchtigen laut einer Analyse von Crowdstrike die Codequalität der KI Deepseek. Das Modell erzeugt bei politisch heiklen Begriffen deutlich häufiger Programmcode mit Sicherheitslücken.
Die Zensurvorgaben der chinesischen Regierung beeinträchtigen die Leistungsfähigkeit des KI-Modells Deepseek. Dies geht aus einer Analyse von Crowdstrike hervor, wie "Die Zeit" berichtet. Das US-amerikanische Security-Unternehmen führe in der Studie auf, dass die chinesische Deepseek-KI Programmcode mit "schweren Sicherheitslücken" erzeuge. Dies sei der Fall, sobald in Nutzereingaben aus Sicht der chinesischen Regierung politisch heikle Begriffe auftauchen.
Dass Zensur zu Problemen bei KI-Modellen führt, ist seit Längerem bekannt, wie "Die Zeit" schreibt. Neu sei jedoch, dass sie auch die Qualität des generierten Programmcodes deutlich mindern kann. Für die Studie habe Crowdstrike das Modell "Deepseek-R1 671b" getestet, die derzeit leistungsstärkste Version der KI. Das Resultat: In zensurrelevanten Prompts erhöhte sich die Wahrscheinlichkeit für sicherheitskritischen oder mangelhaften Code um bis zu 50 Prozent gegenüber dem Normalfall. Nach Einschätzung der Forschenden dürfte dieses Verhalten auch in weiteren Deepseek-Versionen auftreten.
Hinweise auf eine absichtlich eingebaute Schadfunktion fanden die Analysten jedoch nicht, wie es weiter heisst. Crowdstrike führe die Ergebnisse darauf zurück, dass starke inhaltliche Filter die Leistungsfähigkeit grosser Sprachmodelle deutlich reduzieren.
Die chinesische KI wirft übrigens auch Bedenken hinsichtlich des Datenschutzes auf. Hier lesen Sie mehr dazu.
Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.
Proofpoint übernimmt Varonis für 6,3 Milliarden US-Dollar
Phisher geben sich nach wie vor am liebsten als Microsoft aus
Cyberangriffe auf Schweizer Organisationen verdoppeln sich im Jahresvergleich
Angreifer verbreiten Malware über AOMEI-Updates - auch in der Schweiz
Update: Ransomware-Gruppe Akira fordert Lösegeld für Daten von über 100'000 Bundesangestellten
Arctic Wolf integriert Ereignisdaten von Veeam in seine Security-Plattform
Harry Potter auf Bollywood-Art
Cleanstes Design für Fensterjalousien
Einladung zum Webinar: Vertrauen in KI schaffen - sichtbar, kontrollierbar, sicher
