CSEM entwickelt datenschutzkonforme Gesichtserkennung

Die Forschungsgruppe "Edge AI and Vision Systems" des Centre suisse d'électronique et de microtechnique (CSEM) hat eine KI-Trainingsmethode entwickelt, die personenbezogene Informationen wie Gesichter, Geschlecht oder Alter während des Lernprozesses aktiv löscht. Ein integriertes "Watchdog"-Netzwerk erkennt, wenn das System unerwünschte Daten speichern will, und zwingt es zum Vergessen, wie das CSEM mitteilt.

Demnach zeigten Tests mit medizinischen Daten und Gesichtsbildern: Die datenschutzorientiert trainierten Modelle erreichen eine um bis zu 6,7 Prozent höhere Genauigkeit als bisherige KI-Systeme. Gleichzeitig soll die Lösung Angriffe abwehren, die versuchen, Gesichter aus den Modellparametern zu rekonstruieren. "Mit dieser Technologie beweisen wir, dass ethische, datenschutzorientierte KI nicht nur möglich, sondern auch praktisch ist", lässt sich Nadim Maamari, Group Leader beim CSEM, in der Mitteilung zitieren. 

Mögliche Anwendungen im Gesundheitswesen und in Städten

Das System ermögliche KI-Anwendungen im Gesundheitswesen, in der öffentlichen Sicherheit, der urbanen Mobilität und bei Unterhaltungselektronik - ohne sensible Daten zu speichern oder zu übertragen, schreibt das CSEM weiter.

Mit dem CSEM-Ansatz (rechtes Bild) soll es praktisch unmöglich sein, aus Überwachungsbildern tatsächliche Gesichter wieder kenntlich zu machen. (Source: CSEM) 

Die Entwicklung adressiert den Forschenden zufolge ein drängendes Problem: Gesichtserkennungssysteme wie Deep Face von Meta erreichen menschliche Genauigkeit. Die britische Polizei scannte 2024 über 4,7 Millionen Gesichter mittels Live-Gesichtserkennung, was zu Hunderten von Festnahmen führte. Und eine Umfrage in den USA im Jahr 2020 habe gezeigt, dass 66 Prozent der Befragten Gesichtserkennung in der Strafverfolgung unterstützen würden. 

Dennoch bestehen nach wie vor grosse Bedenken - aus gutem Grund. Denn KI und weitere algorithmische Systeme führen zu neuen Formen von Diskriminierung. Die Genauigkeit solcher Systeme variiert stark je nach Bevölkerungsgruppe, wobei die Fehlerquote bei stärker dunkelhäutigen Frauen bei bis zu 34,7 Prozent liegt - im Vergleich zu 0,8 Prozent bei hellhäutigen Männern. Das öffentliche Vertrauen in solche Anwendungen ist folglich tief, vor allem wenn kommerzielle oder staatliche Akteure beteiligt sind.

Schweizer Datenschutz setzt Grenzen

Das revidierte Datenschutzgesetz stuft seit September 2023 biometrische Daten als streng vertraulich ein. Der Eidgenössische Datenschutzbeauftragte bestätigt: Grossflächige Echtzeit-Gesichtserkennung im öffentlichen Raum bleibt ohne spezifische gesetzliche Grundlage verboten.

In einer Petition aus dem Jahr 2021 verlangten die Schweizerinnen und Schweizer darüber hinaus ein nationales Verbot der überwachungsbasierten Gesichtserkennung, und 80 Prozent der Kandidierenden fürs Parlament sprachen sich 2023 für strengere Kontrollen aus, wie das CSEM anmerkt. Auch auf kantonaler Ebene gibt es entsprechende Initiativen: Die Kantone Genf und Neuenburg verankerten beispielsweise ein Recht auf digitale Unversehrtheit in ihren Kantonsverfassungen. 

Dieses Anliegen will das CSEM mit der neu entwickelten Methode adressieren. Die Methode soll dafür sorgen, dass KI-Systeme nur das lernen, was sie für ihre Aufgabe benötigen. Somit würden keine personenbezogene Daten gespeichert oder verarbeitet, was die Risiken von Missbrauch, Profiling und Angriffen auf die Privatsphäre verringere. Die getestete, betriebs- und einsatzbereite "datenschutzorientierte KI" sei zudem kompakt, energieeffizient und ideal für den Einsatz in eingebetteten Systemen, verspricht das CSEM.

Der Kanton Neuenburg investierte übrigens 3 Millionen Franken, um die Infrastruktur des CSEM zu modernisieren und die Halbleiterforschung zu unterstützen. Mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.