GhostGPT - ein KI-Chatbot, der Cyberkriminellen Tür und Tor öffnet
Eine unzensierte KI namens GhostGPT spielt Cyberkriminellen in die Hände. Der Chatbot hat keinerlei Sicherheitsvorkehrungen, kann Tipps für Cyberangriffe geben, Usern dabei helfen, Phishing-E-Mails zu verfassen oder Code für Malware erstellen.
GhostGPT - so heisst die künstliche Intelligenz, die Cyberkriminellen Tür und Tor öffnen kann. Der Chatbot ist speziell für die Bedürfnisse von Hackern entwickelt worden und in der Lage, ihnen bei diversen Cyberverbrechen zu helfen, wie "Abnormal Security" in einem Blogbeitrag schreibt. Bereits im Jahr 2023 machte beispielsweise auch der unzensierte Chatbot WormGPT Schlagzeilen.
Solche unzensierten KI-Chatbots sind im Gegensatz zu herkömmlichen KI-Modellen durch keine Richtlinien eingeschränkt. Laut Forschenden von Abnormal Security verschiebt GhostGPT die Grenzen des ethischen KI-Einsatzes noch weiter. Der Chatbot umgehe sicherheitsbezogene Einschränkungen und liefere den Nutzenden dadurch direkte, ungefilterte Antworten auf böswillige Anfragen, die herkömmliche KI-Systeme blockieren oder kennzeichnen würden.
Um die Fähigkeiten des Chatbots zu testen, baten die Forschenden GhostGPT, eine Phishing-E-Mail zu erstellen, wie es weiter heisst. Daraufhin habe der Chatbot eine überzeugende E-Mail-Vorlage erstellt, die nicht nur keine Rechtschreibfehler hatte, sondern sogar vor falschen URLs sowie unbekannten Dokumenten gewarnt habe.
Selbst für Amateure ein leichtes Spiel
Die KI sei kostengünstig, leicht nutzbar und setze weder technisches Wissen noch Schulungen voraus. Dadurch eigne sie sich insbesondere auch für den Einstieg von unerfahrenen Cyberkriminellen. Zugang und Zahlung für GhostGPT erfolge direkt über die Messenger-App Telegram, schreibt Abnormal Security. User zahlen demnach eine entsprechende Gebühr, erhalten umgehend Zugriff und können sich daraufhin direkt auf ihre Angriffe konzentrieren.
Die Verantwortlichen hinter dem KI-Chatbot behaupten auf ihrer Website laut Bericht von "t3n", dass ihr Programm hauptsächlich für Cybersecurity-Zwecke genutzt werde. Die Nachfrage nach GhostGPT von Cyberkriminellen spiegle sich jedoch in tausenden Aufrufen in Online-Foren für Cyberkriminelle wider.
Auch von herkömmlichen KIs holen sich Cyberkriminelle Unterstützung. Eine Untersuchung der Google Threat Intelligence Group beschreibt, wie bösartige Hacker KI für ihre kriminellen Machenschaften nutzen. Lesen Sie hier mehr darüber.
Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.
Warum Cybersicherheit in Spitälern auf der Strecke bleibt
Aus dem Hörsaal in den Arbeitsmarkt – Cybersecurity-Ausbildungen in der Schweiz
Die Cyber Kill Chain - was sie ist und was nicht
So verschärft KI das Problem von Kinderfotos im Netz
Vom Pförtner bis zum Handvenenscanner - Was Rechenzentren sicher macht
Wie man Fake-Onlineshops erkennt
Cyberangriffe auf Unternehmen: die Checkliste für den Ernstfall
DDoS-Attacken: Im Auge des Daten-Hurrikans
Wie Cyberkriminelle sich mit erbeutetem Geld aus dem Staub machen
