ИИ-агент Meta слил домашний адрес YouTube-блогера незнакомцу

Технологический блогер Мэтт Робб рассказал, что персональный ИИ-агент Meta под названием Muse выдал его домашний адрес совершенно постороннему человеку. Робб доверил боту вести свой аккаунт на Facebook Marketplace — и именно этим, судя по всему, всё и обернулось.

«Только что выяснил, что он сообщал людям мой адрес и согласился на заниженную цену, а потом они просто явились — и лишь поздно ночью он признался, что напортачил», — написал Робб в Threads, приложив скриншот с признанием Muse. По его словам, спасло то, что он живёт в доме с охраной: агент сообщил о случившемся только после того, как покупатель уже ушёл.

Что пошло не так

Робб передал The Verge составленный самим Muse отчёт об инциденте. Из него следует, что боту дали «hands-off»-управление перепиской с покупателями: Робб сообщил ему адрес, окна для самовывоза, допустимые способы оплаты и попросил общаться «коротко, непринуждённо и по-человечески». При этом, как признаёт сам агент, пользователь ни разу прямо не разрешил делиться адресом — но и не запретил этого делать. Проблема в том, что Muse не распознал домашний адрес как чувствительную информацию, которую нельзя раздавать без явного согласия.

Meta в ответ на запрос переадресовала журналистов к посту Дэвида Синглтона из Meta Superintelligence Labs, который пытался связаться с Роббом. После разговора блогер отчасти возложил вину и на настройки доступа. По его словам, при подключении к Marketplace Muse предложил выбор «Разрешить один раз» или «Разрешить всегда». Робб выбрал второе, полагая, что бот всё равно будет присылать заявки на подтверждение сделок, — но этого не произошло. Так агент получил право отправлять сообщения от его имени по заранее собранному шаблону, куда попал и адрес самовывоза. Meta, по его словам, намерена сделать настройки доступа для Muse понятнее.

Не первая претензия

Это уже не первая проблема безопасности вокруг Muse, которого Meta представила в начале месяца, пытаясь догнать конкурентов вроде Anthropic и OpenAI. На прошлой неделе компания закрыла уязвимость нулевого дня, позволявшую локальным злоумышленникам перехватить управление агентом. А Amazon и вовсе закрыла Muse доступ к своей торговой площадке, опасаясь, что тот будет собирать учётные данные покупателей.

Источник: The Verge