OpenAI пресекла работу мошеннической сети из Камбоджи, использовавшей ChatGPT

OpenAI сообщила о том, что заблокировала действия организованной группы социальных инженеров из Камбоджи, применявшей ChatGPT для целого набора мошеннических схем. О масштабах операции написал в своём блоге специалист по безопасности Брюс Шнайер.

Конвейер обмана

Особенность сети заключалась в том, что она вела сразу несколько типов афер, нередко смешивая элементы разных схем. Операторы использовали образы участников сайтов знакомств, чтобы завоевать доверие жертвы, а затем предлагали ей поучаствовать в мошеннических инвестициях — в криптовалюты или в торговлю золотом со спот-рынка.

Другие участники сети вели длительную романтическую переписку от лица вымышленных персонажей, выдавали себя за представителей онлайн-казино, обещавших фальшивые бонусы и выигрыши, либо изображали сотрудников правоохранительных органов и сообщали жертвам о необходимости заплатить штраф за якобы совершённые тяжкие преступления.

Один почерк на все роли

Сценарии различались, но за ними стоял один и тот же паттерн поведения. Мошенники создавали фальшивые профили на сайтах знакомств, придумывали образы вымышленных инвестиционных экспертов и поддельных правоохранителей. С помощью нейросети они также генерировали изображения фальшивых документов: паспортов, юридических уведомлений, подтверждений покупки акций и интерфейсов игорных платформ.

Эта история хорошо иллюстрирует тезис, который всё чаще звучит вокруг больших языковых моделей. Один из комментаторов у Шнайера едко заметил, что LLM наконец-то нашли своё призвание: их подлинная сила не в том, чтобы выдавать точные и заслуживающие доверия сведения, — с этим у них по-прежнему проблемы, — а в том, чтобы правдоподобно морочить голову доверчивым людям и лишать их сбережений. Умение убедительно сочинять то, чего нет, оборачивается идеальным инструментом для мошенника.

Источник: Schneier on Security