Whatsapp testet Betrugswarnung direkt auf dem Smartphone

News

Whatsapp testet eine neue Funktion, die verdächtige Nachrichten mithilfe eines KI-Modells erkennen soll. Die Analyse läuft laut Meta direkt auf dem Smartphone und soll die Ende-zu-Ende-Verschlüsselung nicht beeinträchtigen.

(Source: Dima Solomin / Unsplash.com)

Whatsapp will User künftig vor möglichen Betrugsnachrichten warnen. Die optionale Funktion "Scam Alert" analysiert dafür Nachrichten von unbekannten Kontakten auf typische Merkmale von Betrugsversuchen, wie Meta mitteilt.

Das dafür eingesetzte Machine-Learning-Modell läuft laut dem Konzern direkt auf dem Smartphone. Meta zufolge verlassen für die Einstufung als möglicher Betrugsversuch keine Nachrichteninhalte das Gerät. Erkennt das Modell einen möglichen Betrugsversuch, zeigt Whatsapp eine Warnung an. User können den Kontakt anschliessend blockieren, melden oder die Unterhaltung fortsetzen.

Welche Daten doch an Meta gelangen

Ganz ohne Datenübertragung soll das Feature dennoch nicht auskommen. Whatsapp will unter anderem erfassen, wie häufig das System Warnungen ausgibt und wie User darauf reagieren. Meta zufolge gelangen diese Angaben nur aggregiert an das Unternehmen. Zu diesem Zweck setzt Whatsapp laut Mitteilung auf Differential Privacy, ein mathematisches Datenschutzkonzept, das Rückschlüsse auf einzelne User erschweren soll.

Wer einen fälschlicherweise markierten Chat als vertrauenswürdig einstuft, kann zudem freiwillig die letzten fünf empfangenen Nachrichten mit Whatsapp teilen. Damit will Meta die Erkennung verbessern.

Der Social-Media-Konzern will eigenen Angaben zufolge auch die für das Feature eingesetzten KI-Modelle nachvollziehbarer machen. Neue Modellversionen sollen vor dem Ausrollen in einem öffentlich einsehbaren Register erscheinen. Zudem will Meta Modellparameter für Sicherheitsforschende zugänglich machen. Wie zuverlässig "Scam Alert" Betrugsversuche erkennt und wie häufig das System legitime Nachrichten fälschlicherweise markiert, muss sich allerdings erst zeigen.

"Scam Alert" startet zunächst in einer begrenzten Beta. Einen Termin für eine breitere Einführung nennt Meta nicht.

Übrigens: Wie Cyberkriminelle versuchen, über einen Abstimmungs-Trick Whatsapp-Konten zu kapern, lesen Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.