So variantenreich tricksen Betrüger mit Deepfakes

(Source: ArtemisDiana / Stock.Adobe.com)

(Source: ArtemisDiana / Stock.Adobe.com)

Cyberbetrug mit gefälschten Persönlichkeiten ist nicht neu. Zu den am frühesten beobachteten Deepfake-Phänomenen gehören vorgetäuschte Interviews mit bekannten Persönlichkeiten, die betrügerische Investitionsangebote bewerben. Doch gefälschte Bilder - oft mit Personen in kompromittierenden Situationen - können auch für Mobbing oder Erpressung verwendet werden, wie das Bundesamt für Cybersicherheit (BACS) schreibt. Mit dem Aufkommen künstlicher Intelligenz nimmt die Vielfalt dieser Betrugsvarianten zu.

Sextortion und Fake-Sextortion

Erpressungsversuche mit Sextortion, bei dem Erpresser drohen, Fotos oder Videos von Personen in kompromittierenden oder intimen Situationen zu veröffentlichen, sind laut BACS in der Regel haltlos. Betrüger verschickten solche E-Mails lange Zeit auf gut Glück und setzten darauf, dass potenzielle Opfer Lösegelder bezahlen. Wenn das Opfer nicht reagierte, liessen die Kriminellen laut BACS schnell von ihm ab.

Neuerdings haben die Betrüger jedoch die Möglichkeit, mit KI den Druck zu erhöhen: Finden die Kriminellen Bilder des Opfers im Internet, können sie diese manipulieren, wie das BACS ausführt. 

Bei diesen Fake-Sextortion-E-Mails verwenden Cyberkriminelle laut Behörden das sogenannte Body- oder Face-Swapping: Mithilfe von KI wird ein Gesicht oder eine Person präzise in ein anderes Bild oder Video hineinkopiert. Auf eine Fälschung deuten dabei nur noch feine Unstimmigkeiten hin. 

Wenn Lichtverhältnisse und Schattenwürfe eines eingefügten Kopfes nicht perfekt zum restlichen Körper passen, bei kleinen Unschärfen, qualitativen Unterschieden in der Textur oder unnatürlichen Übergängen am Hals und der Haarlinie könnte man laut BACS eine Fälschung vor sich haben. 

KI-generiertes Body-Swapping. Links: KI-erstelltes Originalbild. Mitte: Das Bild, das für Body- oder Face-Swapping eingesetzt wird. Rechts: KI-generiertes verändertes Bild. (Source: BACS)

KI-generiertes Body-Swapping. Links: KI-erstelltes Originalbild. Mitte: Das Bild, das für Body- oder Face-Swapping eingesetzt wird. Rechts: KI-generiertes verändertes Bild. (Source: BACS)

Ein bekanntes Beispiel für Deepfakes ist der Einsatz gefälschter Darstellungen bekannter Persönlichkeiten, die vermeintlich betrügerische Investitionsangebote bewerben. In der Schweiz sind laut BACS diverse gefälschte Interviews mit Bundesrätinnen und Bundesräten und anderen prominenten Persönlichkeiten im Umlauf.

Deepfake-Video mit Elon Musks Konterfei aus dem Jahr 2023. Bild und Stimme wurden mit KI erstellt. (Source: BACS)

Romance-Scam

Bei diesem Phänomen generieren die Betrüger Personen laut BACS neuerdings gänzlich per KI. Damit liessen sich nicht nur Identitäten erfinden, sondern auch fiktive Szenarien mit einem vermeintlichen Fotobeweis bildlich unterstützen. 

KI-generiertes Bild eines angeblichen kranken Partners. (Source: BACS)

Kontenübernahme

Auch beim klassischen Phishing mit dem Ziel einer Kontenübernahme hat das BACS eine zunehmende Verwendung KI-generierter Bilder beobachtet. Opfer werden beispielsweise von einem vermeintlich bekannten Kontakt aufgefordert, bei einem Wettbewerb für ihr Kind abzustimmen. Wer dem beigefügten Link und den enthaltenen Anweisungen folgt, verliert demnach den Zugriff auf sein eigenes Whatsapp-Konto. Die Abstimmungsseite ist dabei laut BACS oft KI-generiert - inklusive gefälschten Fotos von Kindern. 

KI-generierte Abstimmungswebsite, mit der beispielsweise Whatsapp-Konten übernommen werden. (Source: BACS)

Empfehlungen des BACS

Das Bundesamt rät dazu, gesehenen Bildern mit Vorsicht zu begegnen. Bilder liessen sich heutzutage leicht manipulieren. Die moderne Technologie erlaube es, Personen vollständig künstlich zu erschaffen oder ihre bestehenden Bilder in Körperbau, Grösse oder bei anderen Merkmalen zu verändern. Zudem könnten Personen bereits auf der Basis von nur einem Foto in andere Bilder eingefügt oder komplett ersetzt werden. Deshalb seien die klassischen Merkmale zur Betrugserkennung weiterhin wichtig. Man solle stets überprüfen, wie plausibel eine Situation erscheine. Sobald man aufgefordert werde, Geld oder Zugangsdaten preiszugeben, sei höchste Vorsicht geboten. 

Das BACS hat auch nützliche Ratschläge veröffentlicht, wie man sich auf Reisen vor Cyberbetrug schützen kann. Wenn Ihre grossen Ferien noch anstehen, können Sie sich hier auf den neusten Stand bezüglich Cybersicherheit auf Reisen bringen. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.