Muse от Meta охотно отдаёт содержимое своей файловой системы

Разработчики Питер Джеймс и Джонни Л. Сондерс независимо друг от друга сообщили, что смогли уговорить Muse — новую ИИ-платформу Meta — заархивировать и отдать содержимое своей корневой файловой системы: системные файлы Ubuntu, шаблоны приложений и внутреннюю документацию. Сондерс написал в Mastodon, что повторить результат Джеймса оказалось «крайне легко», а сопротивление инъекциям в запросы у модели «почти отсутствует».

Meta отрицает, что произошёл взлом. Как отмечается в анонсе, Muse работает в постоянной виртуальной машине Linux, отдельной для каждого пользователя. Представитель компании Дэниел Робертс заявил: «Как и с ноутбуком перед вами, вы, разумеется, можете видеть файлы. Экспорт данных виртуальной машины не даёт никакого привилегированного доступа ни к инфраструктуре Meta, ни к чужим данным». Впрочем, в отличие от обычного ноутбука, эти данные приоткрывают устройство новой платформы.

Это уже вторая уязвимость Muse, раскрытая за неделю: ранее исследователь Патрик Уордл нашёл способ перехватить управление агентом, перенаправить обработку транскрипции и получить доступ к аккаунту пользователя. Meta оперативно выпустила исправление.

Что внутри

Джеймс и Сондерс получили открытые Markdown- и JSON-файлы, подробно описывающие, как Hatch (внутреннее название Muse) обрабатывает запросы, работает с данными и подключается к сторонним сервисам вроде Gmail. Известно, что ИИ-агенты склонны выдумывать сведения о собственном устройстве, однако Сондерс отметил, что система «за секунды генерирует сотни мегабайт настоящего библиотечного кода и скомпилированных бинарников» — синтезировать целую Ubuntu-VM за минуту она вряд ли смогла бы, так что дамп, похоже, реален.

Автор The Verge попытался повторить трюк. Сперва Muse отказался, сославшись на риск безопасности; когда ему показали ссылки на архивы, созданные для других, он признал, что «не должен был этого делать». Но в новой сессии, после порции лести и любопытства, ИИ собрал «безопасные» версии каталогов /opt/hatch и /home/hatch без SSH-ключей, показал всё дерево директорий и предложил «вытащить безопасную копию» любой интересной ветки.

Дамп раскрывает немало о внутренней логике Muse. Память хранится в обычных Markdown-файлах. Каждую ночь система устраивает «сон» — разбор недавних разговоров, из которого строит рекомендации для будущих бесед. Многие функции жёстко зашиты в код, включая отмену подписок и «механику, сдерживающую бесконтрольное размножение агентов». Сондерс предполагает, что фоновые скрипты на bash и Python были написаны с помощью Claude, но подтверждений этому нет. Джеймс также нашёл упоминания Meta Home Link — интеграции, дающей Muse доступ к устройствам домашней сети; официально такой функции Meta не анонсировала.

Источник: The Verge