Gemma против мошенников: Google DeepMind и Сингапур запускают защиту прямо на смартфоне

Google DeepMind и Агентство технологий правительства Сингапура (GovTech) объявили о совместном инструменте, который должен защитить граждан от мошенников, не жертвуя приватностью переписки. Разработка создана в рамках Национального партнёрства в области ИИ между DeepMind и правительством Сингапура и представлена на Singapore International Cyber Week 2026.

Масштаб проблемы для города-государства велик: мошенничество составляет более половины зарегистрированных преступлений, а с 2019 года убытки превысили 4 миллиарда сингапурских долларов. При этом тактика изменилась — от простого фишинга злоумышленники перешли к сложной социальной инженерии, выстраивая убедительный разговор перед тем, как попросить деньги. На такие схемы приходится до 80% всех потерь.

Анализ на устройстве

Главная идея — перенести распознавание угрозы на сам смартфон. Традиционные системы сканируют сообщения на сервере в облаке, но многие мессенджеры используют сквозное шифрование и попросту не могут читать частную переписку. DeepMind предлагает обойти это противоречие: лёгкая модель Gemma анализирует разговор локально, так что данные не покидают телефон.

Универсальные модели плохо справляются с местными приёмами обмана, поэтому Gemma была дообучена на локальных мошеннических диалогах — от подделки под государственные учреждения, банки и известных в стране лиц до актуальных региональных схем. Это помогает отличать безобидную болтовню от настоящей манипуляции.

Как это устроено

Чтобы сложный классификатор не разряжал батарею, используется двухступенчатый конвейер. На первом этапе лёгкий и экономичный фильтр просматривает входящие сообщения с минимальным расходом энергии. На втором — дообученная Gemma оценивает больший фрагмент разговора, чтобы подтвердить угрозу или отбросить ложную тревогу. Обнаружив признаки манипуляции, модель выдаёт предупреждение прямо на экране: остановиться и проявить осторожность, прежде чем делиться данными или деньгами.

Строгое управление данными

Разработчики подчёркивают соблюдение строгих правил. Дообучение проходило внутри управляемой GovTech среды Google Cloud («суверенная песочница»), изолирующей обучающие данные. Персональные и идентифицирующие сведения граждан не использовались — только анонимизированные наборы, полученные из отчётов о мошенничестве и разведданных. Модель также проверяли на синтетических диалогах и локальных корпусах, чтобы охватить разные категории обмана и меняющиеся тактики подделки личности.

Авторы считают проект образцом для мессенджеров, которым нужно совмещать защиту пользователей со сквозным шифрованием. Лёгкие модели такого рода могут встраивать и платформы обмена сообщениями, и производители операционных систем — чтобы оберегать пользователей локально, не раскрывая их частные данные.

Источник: Google DeepMind