Взлом Hugging Face: скомпрометированы внутренние датасеты и служебные ключи

Hugging Face, площадка для размещения ИИ-моделей и наборов данных, подтвердила, что на прошлой неделе неизвестные получили доступ к её внутренним датасетам и служебным учётным данным. О компрометации компания сообщила в пятницу, отметив, что расследование продолжается: пока неясно, были ли затронуты данные клиентов и партнёров.

По версии Hugging Face, злоумышленники воспользовались уязвимостью: загруженный на платформу датасет позволил выполнить вредоносный код на серверах компании, после чего атакующие повысили привилегии и получили более широкий доступ к внутренним системам. Украденные учётные данные были отозваны и заменены, а саму уязвимость закрыли. Пользователям настоятельно рекомендуют сменить все хранящиеся на платформе ключи и проверить аккаунты на предмет подозрительной активности.

Виноват ИИ-агент?

Отдельного внимания заслуживает объяснение самой компании. Hugging Face возложила ответственность на внешнего ИИ-агента, который якобы выполнил «многие тысячи отдельных действий в рое короткоживущих песочниц, с самопереносящимся управляющим сервером, развёрнутым на публичных сервисах». Доказательств этого утверждения в ответ на запрос TechCrunch компания не предоставила.

Атаку, по словам Hugging Face, обнаружила собственная система выявления аномалий, а для разбора серверных логов применили ИИ-модель. Любопытная деталь: сначала компания попыталась использовать frontier-модель стороннего коммерческого поставщика (без указания имени), но анализ заблокировали встроенные ограничения безопасности этой модели. В итоге пришлось задействовать собственную локальную LLM — с дополнительным плюсом в том, что чувствительные логи атаки не пришлось загружать на серверы сторонней ИИ-компании.

Защитники против «намордников»

Этот эпизод перекликается с давними жалобами исследователей безопасности: некоторые передовые модели настолько зарегулированы, что отказываются обсуждать практически любые темы, связанные с кибербезопасностью, — даже когда речь идёт о защите и расследовании инцидентов. Разработчики frontier-моделей, в свою очередь, спорят с властями из-за опасений, что их системы могут применяться для наступательных кибератак.

Hugging Face сообщила, что уведомила правоохранительные органы и привлекла криминалистов для расследования и аудита своей безопасности. Проводился ли подобный аудит систем до запуска платформы, остаётся неизвестным — на дополнительные вопросы представитель компании не ответил.

Источник: TechCrunch