Behörden kämpfen mit KI-Betrug und Budgetmangel

News

Öffentliche Verwaltungen hadern zunehmend mit KI-gestützten Betrugsversuchen, setzen aber auch auf KI zur Betrugsbekämpfung. Wirksame Gegenmassnahmen scheitern oftmals an mangelnden Ressourcen.

(Source: fotomek / AdobeStock.com)

Fast alle öffentlichen Verwaltungen kämpfen mit KI-gestütztem Betrug, wie aus einer globalen Umfrage des Software-Anbieters SAS hervorgeht. Laut der vom Marktforschungsunternehmen Coleman Parkes durchgeführten Erhebung sehen 85 Prozent der 1100 weltweit befragten Betrugsermittler der öffentlichen Verwaltung Betrugsbekämpfung als oberste Priorität. Dennoch gibt nur ein Zehntel an, auch über ausreichende Mittel zu verfügen, um Betrug wirksam zu bekämpfen.

KI als Angreifer – aber auch als Abwehr

Zudem zeige sich eine Zunahme von KI-basierten Angriffen, etwa durch künstliche Identitäten sowie hyperpersonalisierte Phishing-Kampagnen und Schadsoftware. Dabei beanspruchen Betrug und Missbrauch staatlicher Leistungen gemäss der Studie 16 Prozent der Gesamtbudgets der Befragten. Ein Drittel nennt mangelnde Ressourcen, darunter zu geringe analytische Fähigkeiten und finanzielle Mittel, als Hauptgrund für unzureichende Gegenmassnahmen. 96 Prozent sind der Meinung, dass Angriffe und deren Folgen zudem negative Auswirkungen auf das Vertrauen der Bürgerinnen und Bürger in ihre Behörde haben, heisst es weiter.

Des Weiteren setze erst jede zweite der befragten öffentlichen Verwaltungen KI zur Bekämpfung von Betrug und Missbrauch ein. Generative KI nutzen gut ein Viertel. 98 Prozent gehen wiederum davon aus, dass sie innerhalb der nächsten zwei Jahre mindestens ein KI-Tool nutzen werden, um kriminelle Aktivitäten zu unterbinden. 97 Prozent erwarten demnächst eine Einführung von generativer KI.

Nützlichkeit und Herausforderungen

Die Studienautoren erwarten für die kommenden Jahre eine Steigerung des Einsatzes von Netzwerkanalysen für Betrugserkennung von 32 auf 87 Prozent. Die befragten Verwaltungen, die KI bereits verwenden, erkennen zudem ihre positiven Auswirkungen in Form von Produktivitätssteigerungen bei der Betrugsbekämpfung an.

Neben einer Effizienzsteigerung sehen die befragten Verwaltungen auch neue Herausforderungen, etwa bezüglich Datenschutz und -sicherheit (48 Prozent) und in Bezug auf einen ethisch vertretbaren KI-Einsatz (43 Prozent). Laut der Studie würden die befragten Verwaltungen signifikante Investitionen in intelligente Technologien planen, um durch Betrug verursachte Verluste eindämmen zu können und das Vertrauen in die öffentliche Verwaltung zu stärken.

KI-Agenten erhalten von ihren Usern oft weitreichende Handlungsbefugnisse. Doch bösartige Angreifer können diese Freiheiten ausnutzen. Lesen Sie hier mehr darüber.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.