GenAI-spezifische Probleme

Die Swiss Digital Initiative aktualisiert Digital Trust Label

Uhr
von Yannick Chavanne und Übersetzung: Alexandra Hüsler, tme

Die Swiss Digital Initiative überarbeitet den Kriterienkatalog ihres digitalen Vertrauenssiegels. Die neue Version bezieht Probleme und Herausforderungen mit generativer KI mit ein.

(Source: TheDigitalWay / Pixabay.com)
(Source: TheDigitalWay / Pixabay.com)

Die Stiftung Swiss Digital Initiative (SDI) hat die Veröffentlichung einer neuen Version des Kriterienkatalogs für ihr digitales Vertrauenssiegel, das Digital Trust Label (DTL), bekannt gegeben.

Mit der Aktualisierung des Kriterienkatalogs sei das Label nun bereit für KI, erklärte Doris Leuthard, Präsidentin des SDI-Stiftungsrats. Diese Überarbeitung schliesse "die derzeitige Lücke zwischen der wachsenden Nachfrage nach KI und der Entwicklung der Regulierung". Das Ziel bestehe darin, das Vertrauen der Nutzer zu stärken, insbesondere bei der Implementierung von generativer KI (GenAI), heisst es seitens SDI weiter. 

Die neuen Standards basieren auf bewährten Kriterien des DTL und zielen auf die spezifischen Anforderungen von KI und GenAI ab. Die vom Expertenausschuss des Siegels überarbeiteten und modifizierten Kriterien umfassen Transparenz, Risikomanagement, die Abschwächung algorithmischer Verzerrungen und ethische Erwägungen im Zusammenhang mit den Lerndaten, die KI-Modelle speisen. 

Konkret heisst es im Kriterienkatalog: "Der Dienstleister muss die Grenzen von KI-Systemen klar kommunizieren und sicherstellen, dass sich die Nutzer der Kontexte bewusst sind, in denen die KI möglicherweise nicht zuverlässig ist". Darüber hinaus müssen die Dienstschnittstellen manipulative Techniken ("dark patterns") und jegliche Tendenz zum Anthropomorphismus ausschliessen. Weiter muss "bei der Verwendung von KI-basierten Algorithmen und insbesondere von Algorithmen zur automatisierten Entscheidungsfindung oder von Algorithmen zur Generierung von Inhalten der Dienst spezielle Mechanismen zur Bewertung ihrer Robustheit, Ausfallsicherheit und Genauigkeit vorsehen". Auf der SDI-Website ist der vollständige Kriterienkatalog verfügbar. 

Zu den Organisationen, die bereits das DTL für einen digitalen Dienst erhalten haben, gehören Cisco, Credit Exchange, Julius Bär, Kudelski IoT, Onelog, Peopleweek, Swisscom, Swiss Post, Swiss Re, Tresorit, Unicef und Wefox.

 

Apropos digital: Das BAG beruft Katrin Crameri zur Co-Leiterin für die Abteilung Digitale Transformation. Mehr dazu lesen Sie hier

Webcode
6hX8HFFY

Dossiers

» Mehr Dossiers

Aktuelle Ausgabe

Direkt in Ihren Briefkasten CHF 60.- » Magazin Abonnieren » Zum shop » Newsletter

Passende Jobs