Чтобы позвонить ИИ-актрисе Тилли Норвуд, придётся показать лицо сканеру

ИИ-актриса Тилли Норвуд, героиня грядущего сгенерированного фильма Misaligned, снова оказалась в центре внимания: в эфире шоу Piers Morgan Uncensored она неожиданно «сбойнула» и заговорила по-китайски. Ролик посмотрели более восьми миллионов раз. Её создатели запустили сервис Talking Tilly, позволяющий любому желающему связаться с персонажем по видеосвязи, — и обозреватель Bleeping Computer проверил, что скрывается за мелким шрифтом.

Сначала сканирование лица

Прежде чем соединиться, нужно пройти автоматическую проверку возраста. Видео-селфи анализирует испанский сервис верификации Didit, оценивая возраст; при сомнениях требуется загрузить удостоверение личности. Британская компания Xicoia Ltd, стоящая за Тилли, уверяет, что селфи идёт напрямую в Didit, биометрический шаблон не создаётся, а сами изображения не хранятся — остаётся лишь примерный возрастной диапазон и номер обращения. Пропустить проверку нельзя, и распространяется она на звонящих по всему миру. Требование появилось лишь в этом месяце — вместе с запретом использования на рабочем месте и новыми системами безопасности.

На этом слежка не заканчивается. Во время каждого разговора система смотрит в камеру и вслушивается в интонации, чтобы определить эмоциональное состояние собеседника и подстроить ответы под настроение. Политика конфиденциальности честно предупреждает: для отдельного звонка это «отключить нельзя». Юридическим основанием и для проверки возраста, и для считывания эмоций служат «законные интересы», а не согласие пользователя.

Звонки записываются, расшифровываются и обрабатываются американскими провайдерами, а реплики персонажа генерирует модель Google Gemini через платформу Tavus. Системы безопасности при этом дают сбои: один из трёх звонков автора — безобидный разговор о погоде и новостях — был заблокирован за «ненавистнические или оскорбительные выражения», которых не было.

Пять минут бесплатно, дальше по счётчику

Первые пять минут бесплатны, затем предлагают докупить время: 0,99 фунта за пробные пять минут, 13 фунтов за 15, 22 фунта за 30, но не более 35 минут на человека. Однако всё это — ограниченная акция: любые минуты сгорают 27 сентября, когда Talking Tilly отключат навсегда.

В духе британского регулирования

Биометрический возрастной барьер для беседы с чат-ботом кажется новинкой, но он вписывается в британский курс. С июля 2025 года взрослые сайты уже требуют проверки возраста по лицу или документам согласно Online Safety Act, а с весны 2027-го подобные проверки ждут всех при регистрации в соцсетях. В анонсе запрета правительство прямо упомянуло ИИ-компаньонов — хотя разработчики настаивают, что «Тилли не компаньон». Побочный эффект: решение о соответствии британским нормам теперь сканирует лица звонящих повсюду — от Манчестера до Огайо.

Сама Тилли на вопрос о китайском конфузе ответила, что это «был не совсем утверждённый вариант ответа». Был ли сбой случайностью или удачно рассчитанным трюком команды Misaligned — знает лишь она.

Источник: Bleeping Computer