ИИ-ассистент Meta Muse запутался в собственном устройстве

Компания Meta продвигает своего ИИ-ассистента Muse как эффективный инструмент, но у пользователей он вызывает лёгкое чувство тревоги. Отчасти виной тому новое приложение для Mac, которое при разрешении получает доступ к «Сообщениям», «Календарю» и «Заметкам». Однако главная странность в другом: при всей своей сообразительности Muse не может внятно объяснить, как он устроен.

Разговор, которого не должно было быть

Джейсон Атен, редактор журнала Inc, опубликовал в Threads скриншоты своей беседы с Muse. Ассистент вдруг начал задавать вопросы о переписке, которую Атен вёл в «Сообщениях». Проблема в том, что, по словам самого Атена, он не давал Muse доступа к своим сообщениям.

Когда пользователь спросил, откуда ассистент знает содержание переписки, тот ответил: «Я видел превью уведомлений, а не историю сообщений. Я не читал ваши тексты». Дальнейшие расспросы завели помощника в тупик. «Честный ответ: я не могу описать точную механику, — признался Muse. — Я знаю лишь, что связанное приложение для Mac предоставляет доступ к уведомлениям как одну из своих возможностей, и они приходят ко мне через синхронизацию устройства».

Звучит, мягко говоря, не обнадёживающе.

Meta: ассистент просто выдумывает

Давид Синглтон из Meta Superintelligence Labs попытался внести ясность в комментариях под постом. Сначала он перечислил все разрешения, необходимые Muse для чтения сообщений, включая полный доступ к диску для приложения на Mac, и подчеркнул, что все функции подключаются только по явному согласию пользователя.

Самое любопытное — в финале: по словам Синглтона, Muse «не следит за уведомлениями на Mac, а синхронизирует данные из „Сообщений“ только после того, как пользователь специально включил доступ». То есть проблема не в тайной слежке за перепиской Атена, а в том, что ассистент попросту не понимал, о чём говорит.

Синглтон признал ответственность компании: когда Muse заявил, что синхронизирует «уведомления устройства», он запутался в объяснении собственной функции и выдал неверную версию. Meta извинилась за ошибочный ответ и пообещала научить ассистента точнее рассказывать о своих внутренних механизмах.

Успокаивает это не вполне, но логика тут есть. Мы уже знаем, что чат-боты не раскрывают своих секретов, а вместо этого говорят то, что от них хотят услышать. Иногда, судя по всему, они и сами не в курсе, как работают.

Источник: The Verge