WhatsApp тестирует Scam Alert: предупреждения о мошенниках прямо на устройстве

WhatsApp начал ограниченное бета-тестирование новой опциональной функции Scam Alert, которая предупреждает пользователей о вероятных попытках мошенничества. Пока систему обкатывают вместе с исследователями из программы Bug Bounty.

Как это работает

Ключевая идея — вся обработка происходит локально. Модель машинного обучения запускается прямо на устройстве и анализирует входящие сообщения от тех, кого нет в списке контактов. Она обучена на мошеннических переписках, о которых сообщали сами пользователи, и ищет знакомые шаблоны, опираясь на лингвистические сигналы и вероятностную классификацию структуры разговора.

Если модель заподозрит обман, пользователь увидит в чате предупреждение с предложением заблокировать собеседника, пожаловаться на него или продолжить общение. В компании подчёркивают, что содержимое сообщений не покидает устройство ради классификации и не отправляется автоматически ни в WhatsApp, ни в Meta, ни кому-либо ещё, — функция дополняет сквозное шифрование, а не подрывает его.

Если предупреждение оказалось ложным, чат можно пометить как доверенный: тогда уведомление исчезнет и повторно возникать не будет. При этом пользователь может по желанию поделиться с WhatsApp последними пятью полученными сообщениями, чтобы помочь повысить точность модели. Отключить Scam Alert можно в любой момент.

Часть большой кампании против мошенников

Scam Alert встраивается в череду мер, которыми WhatsApp последнее время обрастает. В марте Meta сообщила, что мессенджер начнёт предупреждать о подозрительных запросах на привязку устройства — распространённом приёме угона аккаунтов, когда жертву обманом заставляют отсканировать вредоносный QR-код или передать код привязки.

За два месяца до этого появились «строгие настройки аккаунта» — режим повышенной защиты в духе локдауна для журналистов, публичных фигур и других людей из группы риска. Его ввели после многочисленных случаев заражения смартфонов активистов и политиков шпионским ПО, включая Pegasus от NSO Group, через zero-click-эксплойты, которые позволяют взломать iOS или Android вообще без действий со стороны владельца.

Мессенджером WhatsApp пользуются более 3 миллиардов человек из свыше чем 180 стран, так что даже точечная защита от мошеннических сообщений затрагивает огромную аудиторию.

Источник: Bleeping Computer