Zertifizierungsschema der ZHAW ermöglicht Risikoprüfungen von KI-Systemen
Forschende der ZHAW haben ein System zur Prüfung und Bewertung von KI-Systemen entwickelt. Das Zertifizierungsschema "CertAInty" dient dazu, die Sicherheit von KI-Systemen zu messen. Der AI-Act der EU fordert entsprechende Prüfungen.
Das Centre for Artificial Intelligence (CAI) und das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW School of Engineering haben gemeinsam ein Zertifizierungsschema für KI-Systeme entwickelt. Laut einer Mitteilung bietet das Schema namens "CertAInty" einen strukturierten Rahmen und Methoden für die Begutachtung von KI-Technologien. Das Entwicklungsteam wurde an der Swiss Conference on Data Science 2024 mit dem Best Paper Award für das Projekt ausgezeichnet.
Vier Kernaspekte
Da KI zunehmend in sicherheitskritischen Bereichen eingesetzt wird, sei das Sicherstellen ihrer Vertrauenswürdigkeit wichtig. Wie die ZHAW weiter schreibt, müssen KI-Systeme künftig evaluiert werden, um gesellschaftliche Schäden wie Diskriminierung, physische Sicherheitsrisiken oder medizinische Fehldiagnosen zu vermeiden. Das Bewertungsschema "CertAInty" umfasst vier Kernaspekte:
- Zuverlässigkeit: Verlässliche Systemleistung unter verschiedenen Bedingungen
- Transparenz: Nachvollziehbarkeit von KI-Entscheidungsprozessen
- Autonomie und Kontrolle: Definition des Grads menschlicher Aufsicht
Sicherheit: Vermeidung unerwünschter Folgen in kritischen Anwendungsbereichen
Reaktion auf den AI Act der EU
Zudem spiele "CertAInty" im Rahmen des AI Acts der EU eine wichtige Rolle. Da die Regulierung künftig obligatorische Zertifizierungen für Hochrisiko-KI-Systeme einführen wird, gehe das System genau auf diese Entwicklungen ein. Ricardo Chavarriaga von der ZHAW School of Engineering, der das Projekt zusammen mit Joanna Weng leitet, erklärt: "Die Zertifizierung von KI-Systemen durch eine akkreditierte Stelle erhöht das Vertrauen, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen." Weng fügt hinzu: "Das CertAInty-Schema überbrückt die Lücke zwischen den abstrakten regulatorischen Vorgaben des EU AI Acts und konkreten technischen Methoden für die Bewertung von KI-Systemen."
Eine weitere Schweizer Entwicklung im Bereich KI kommt von Manukai. Das als Spin-off der ETH Zürich gegründete Start-up sammelte nun 3 Millionen US-Dollar ein, um seine Technologie zur Marktreife zu bringen. Lesen Sie hier mehr dazu.
Cyberangriffe auf Unternehmen: die Checkliste für den Ernstfall
Vom Pförtner bis zum Handvenenscanner - Was Rechenzentren sicher macht
Die Cyber Kill Chain - was sie ist und was nicht
Wenn Satelliten schweigen: Die wachsende Cybergefahr im All
Wie Cyberkriminelle sich mit erbeutetem Geld aus dem Staub machen
So verschärft KI das Problem von Kinderfotos im Netz
Cybersöldner: Wenn Kriminelle dem Staat unter die Arme greifen
Warum Cybersicherheit in Spitälern auf der Strecke bleibt
Wie man Fake-Onlineshops erkennt
