Wie man KI-generierte Bilder erkennen kann

(Source: Magnific)

(Source: Magnific)

Künstliche Intelligenz ist aus vielen Bereichen des Alltags nicht mehr wegzudenken. Leider macht diese Entwicklung auch vor Betrugsversuchen keinen Halt, wie das Bundesamt für Cybersicherheit (BACS) mitteilt. Betrügerische E-Mails könnten heute in perfektem Deutsch, Französisch oder Italienisch verfasst werden, schreibt die Behörde. Auch täuschend echt gestaltete Fälschungen von Websites, Videos, Bildern oder gar von Telefonkonferenzen, in denen Betrüger Personen imitieren, liessen sich mit KI innerhalb kurzer Zeit erstellen.

Das BACS unterscheidet zwischen generativer und traditioneller KI. Zur traditionellen KI gehöre etwa der Spamfilter eines E-Mail-Programms, der seit vielen Jahren zum Einsatz komme. Die generative KI erlebte dagegen ab 2022 mit ChatGPT ihren Durchbruch. Im Unterschied zu traditionellen KI-Systemen analysiert sie nicht nur bestehende Daten, sondern erzeugt selbstständig neue Inhalte wie Texte, Bilder oder Musik.

Dem Bundesamt zufolge haben sich in den vergangenen Monaten Fälle gehäuft, bei denen Betrüger KI-generierte Bilder einsetzen. Diese kommen vor allem auf betrügerischen Investment-Seiten, aber auch bei gefälschten Stellenangeboten oder beim Phishing von Zugangsdaten vor, wie das BACS festhält. Dabei verwenden Betrüger künstlich erzeugte Bilder, etwa gefälschte Quittungen der Post.

Das BACS weist zudem darauf hin, dass sich KI-Modelle laufend verbessern. Ein heute gültiges Erkennungsmerkmal könne deshalb schon morgen überholt sein. Dennoch nennt die Behörde mehrere Warnsignale, die auf KI-generierte Bilder hindeuten können: 

Hände

Wie das BACS schreibt, stellte die realistische Darstellung von Händen KI-Modelle lange Zeit vor grosse Herausforderungen. Bei der Anzahl oder der Länge von Fingern sei es oft zu Unregelmässigkeiten gekommen. Auch die Haut habe oft einen plastischen Eindruck vermittelt. Details wie die Anzahl von Knöpfen an Kleidungsstücken oder deren Positionierung könnten ebenfalls auf KI hindeuten. Bei neueren und leistungsfähigeren Modellen verliere dieser Indikator jedoch zunehmend an Bedeutung.

Beispiele KI-generierter Hände mit KI-Modellen von 2022-2026. (Source: BACS)

Gesichter und Personen

Auch die Darstellung von Gesichtern bereitete KI-Systemen lange Schwierigkeiten. Neuere Modelle seien jedoch immer besser darin, Haut, Haare oder Zähne natürlich abzubilden. Detailfehler gibt es aber weiterhin, etwa bei Spiegelungen an Ohrringen, bei Schmuck, der im Hals verschwindet, oder bei übermässig langen Ohren.

Landschaften

Mit KI-Bildern von Landschaften lasse sich das Vertrauen potenzieller Opfer besonders gut gewinnen, schreibt das BACS. Damit könne beispielsweise ein Bezug zur Schweiz vorgetäuscht werden. Den Einsatz künstlicher Intelligenz erkennt man hier an Merkmalen wie zu starkem Farbkontrast bei Sonnenauf- und -untergängen oder bei der Repetition gewisser Objekte - etwa von Flaggen oder Häusern. Tatsächlich sind Häuser in einer Ortschaft selten in denselben Farben und Mustern gehalten. Solche Wiederholungen können deshalb auf den Einsatz von KI hindeuten.

Hintergründe und Gruppen von Personen

Auch Hintergründe verdienen laut BACS besondere Aufmerksamkeit. Sie wirken oft verschwommen. Bei grösseren Gruppen fehlen häufig Objekte - oder es gibt zu viele davon. Beispielsweise zeigt ein Bild weniger Teller als Personen oder ungewöhnlich viele Trinkgläser. Auch bei solchen Bildern bereiten Hände und Gliedmassen KI-Modellen weiterhin Schwierigkeiten. Das kann etwa zu doppelten linken Händen oder verzerrten Fingern führen. Gesichter oder Hintergründe erscheinen in Gruppenbildern zudem häufiger unscharf oder verzerrt, während Gegenstände ineinander verschmelzen können. Geometrische Linien passen unter Umständen nicht zusammen, und Schatten können in unterschiedliche Richtungen fallen. 

Texte in Bildern

Ein weiterer Stolperstein bleibt die realistisch aussehende Darstellung von Text in Bildern. Texte neuerer Modelle vermitteln oft das Gefühl, per Computer eingefügt worden zu sein. Verzerrte Buchstaben und Rechtschreibefehler sind weitere Indizien für einen Einsatz von KI. 

Weitere Merkmale

Subtile Unstimmigkeiten liefern laut BACS weitere Hinweise auf ein KI-Bild. Licht und Schatten könnten unnatürlich wirken. Auch falsche Perspektiven, verzogene Linien, widersprüchliche räumliche Strukturen sowie sich wiederholende Elemente wie Fenster, Personen oder Texturen könnten auf den Einsatz von KI hindeuten.

Das BACS geht davon aus, dass viele dieser heute bekannten Erkennungsmerkmale künftig subtiler werden oder ganz verschwinden. Deshalb werde die inhaltliche Bildlogik wichtiger. Statt einzelner offensichtlicher Fehler werde man künftig vermehrt auf feine Unstimmigkeiten bei Perspektive, Kontext, Proportionen oder semantischer Konsistenz achten müssen.

Das BACS hat übrigens auch einen Leitfaden erstellt, wie man sich auf Reisen vor Cyberbetrug schützen kann. Hier lesen Sie mehr darüber. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.