Deepmind-Chef legt Modell für KI-Regulierung vor

Google-Deepmind-CEO Demis Hassabis schlägt ein neues Modell für die Regulierung besonders leistungsfähiger KI-Systeme vor. (Source: Google)

Google-Deepmind-CEO Demis Hassabis schlägt ein neues Modell für die Regulierung besonders leistungsfähiger KI-Systeme vor. (Source: Google)

Demis Hassabis, Nobelpreisträger und CEO von Google Deepmind, schlägt ein neues Modell für die Regulierung sogenannter Frontier-Modelle vor. In einem auf Substack veröffentlichten Beitrag skizziert er, wie diese besonders leistungsfähigen KI-Systeme vor ihrer Veröffentlichung geprüft werden könnten.

Im Zentrum seines Vorschlags steht eine unabhängige Organisation, die Prüfverfahren und Sicherheitsstandards für diese KI-Spitzenmodelle entwickeln soll. Hassabis nennt dafür zwei mögliche Organisationsformen: eine öffentlich-private Partnerschaft unter staatlicher Aufsicht oder eine Selbstregulierungsorganisation nach dem Vorbild der US-amerikanischen Financial Industry Regulatory Authority (FINRA), die als private Organisation den Handel mit Wertpapieren überwacht und dabei der Börsenaufsicht SEC untersteht.

Nach seinen Vorstellungen würden Unternehmen, die solche Modelle entwickeln, diese zunächst freiwillig bis zu 30 Tage vor ihrer Veröffentlichung zur Prüfung einreichen. Langfristig könnte eine bestandene Sicherheitsprüfung zur Voraussetzung werden, um solche Systeme auf dem US-Markt bereitzustellen.

Tests für Cyber- und Biorisiken

Die vorgeschlagenen Prüfungen sollen unter anderem bewerten, ob ein Modell gefährliche Fähigkeiten für Cyberangriffe oder biologische Bedrohungen besitzt. Sie sollen auch untersuchen, ob autonome KI-Agenten potenziell schädliche Aufgaben ausführen oder Menschen täuschen könnten. Zudem fordert Hassabis regelmässig aktualisierte Sicherheitsbenchmarks, Prüfungen durch externe Fachstellen und technische Massnahmen wie Wasserzeichen für KI-generierte Bilder. Treten nach der Veröffentlichung kritische Schwachstellen auf, sollen die Anbieter diese gemeinsam mit dem Gremium beheben.

Hassabis begründet seinen Vorstoss mit dem hohen Entwicklungstempo der künstlichen Intelligenz. Der Wettbewerb zwischen Unternehmen und Staaten beschleunige die Fortschritte zwar, gleichzeitig wachse aber auch die Unsicherheit darüber, welche Fähigkeiten künftige Modelle erreichen könnten. Deshalb brauche es einen Regulierungsrahmen, der Innovation ermögliche, zugleich die Sicherheit erhöhe und die internationale Zusammenarbeit fördere.

Hassabis drängt auf Regeln vor der AGI

In seinem Beitrag warnt Hassabis davor, dass nur begrenzt Zeit bleibe, um solche Sicherheitsmechanismen aufzubauen. Künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) - also eine bislang hypothetische Form von KI, die ein breites Spektrum kognitiver Aufgaben mindestens auf menschlichem Niveau bewältigen und ihr Wissen flexibel auf neue Probleme übertragen kann - könnte seiner Einschätzung nach bereits in wenigen Jahren Realität werden. Deshalb müsse die Branche die technischen und regulatorischen Grundlagen jetzt schaffen, bevor noch leistungsfähigere Systeme verfügbar würden.

Hassabis gründete Deepmind 2010 gemeinsam mit Shane Legg und Mustafa Suleyman. Google übernahm das britische KI-Unternehmen 2014. Internationale Bekanntheit erlangte Deepmind zwei Jahre später, als sein KI-System "AlphaGo" den 18-fachen Go-Weltmeister Lee Sedol mit vier zu eins besiegte. 2024 erhielt Hassabis gemeinsam mit John Jumper den Nobelpreis für Chemie für die Vorhersage von Proteinstrukturen. Mit "AlphaFold" entwickelten sie ein KI-System, das die dreidimensionale Struktur von Proteinen anhand ihrer Aminosäuresequenz vorhersagen kann. Ihre Forschungsarbeit gilt als Meilenstein der biomedizinischen Forschung und eröffnet neue Möglichkeiten für die Erforschung von Krankheiten sowie die Entwicklung neuer Wirkstoffe.

Übrigens: Bereits heute prüft die US-Regierung besonders leistungsfähige KI-Modelle. So entschied sie etwa wenige Tage nach der Veröffentlichung von Anthropics Claude Fable 5, dass die Cybersecurity-KI zu gefährlich für die Öffentlichkeit sei. Mittlerweile ist die Mythos-KI aber wieder verfügbar, wie Sie hier lesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.