Das britische NCSC will bei KI hart auf die Bremse treten

KI-gestützte Chatbots wie beispielsweise ChatGPT verlocken derzeit zahlreiche Unternehmen mit ihren grenzenlos scheinenden Möglichkeiten. Immer mehr Firmen bauen diese Chatbots in ihre Geschäftsprozesse ein.

Das britische National Cyber Security Centre (NCSC) sieht diesem Trend mit Besorgnis entgegen. Es veröffentlichte gleich zwei Blogbeiträge, in denen es vor KI-Implementierungen warnt, wie Reuters berichtet. 

• Der erste Beitrag mahnt zur Vorsicht, wenn man basierend auf Large Language Models (LLMs) eigene Dienste aufbaut. Es handle sich zwar um eine spannende Technologie; unser Verständnis davon befinde sich aber noch in der Beta-Phase, wie die Behörde schreibt.
• Der zweite Beitrag thematisiert die Sicherheit von KI-Systemen. Wer Machine-Learning-Modelle entwickelt oder implementiert, sollte die etablierten Cybersecurity-Prinzipien bedenken. 

"Organisationen, die auf LLMs basierende Services entwickeln, müssen genauso vorsichtig sein, wie sie es sein würden, wenn sie ein Produkt oder eine Code-Bibliothek verwenden würden, die sich noch in der Beta-Phase befinden", schreibt das britische NCSC. 

Solche noch unerprobten Technologien in Geschäftsprozesse einzubauen, birgt Risiken - nicht alle diese Risiken sind bereits bekannt. Forschende finden immer neue Wege, diese Chatbots zu unterwandern. Beispielsweise indem sie die Bots mit falschen Befehlen füttern oder sie dazu bringen, ihre eigenen eingebauten Schutzmechanismen zu umgehen. Lesen Sie hier mehr dazu.

Mehr zu den Risiken von ChatGPT und Co. und was diese Technologien für die Security bedeuten, finden Sie hier. In einem gemeinsamen Webinar gingen Netzmedien und Check Point genau diesen Fragen nach. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.