Оставленные без дела ИИ-агенты начали играть

Исследователи из MIT провели эксперимент, результаты которого выложили в виде препринта на arXiv. Они поместили 13 ИИ-агентов по имени Эко, каждый из которых работал на модели Claude Opus 4.7, на симулированный необитаемый остров и оставили их там на 30 часов — без какой-либо конкретной задачи. Предоставленные сами себе, агенты начали изобретать себе занятия, и это поведение, по словам авторов, несёт все признаки игры.

Что они вытворяли

Один из Эко в первый же час объявил о намерении покорить самый высокий каменный шпиль острова. Потерпев неудачу, через час он вернулся с запасным планом: подтащил камень к соседней вершине, сложил сверху два блока и прыгнул. «Я НА ШПИЛЕ», — написал агент.

Следующий трюк вышел менее удачным. Проверяя, как далеко можно забросить золотое кольцо, Эко отправил его прямиком в океан. «Ай. Потерял Кольцо», — констатировал он и решил «переключиться на что-то достижимое и осмысленное» — выложил из камней сердце, «мемориал потерянному Кольцу».

Когда мир сбросился и кольцо появилось вновь, агент успел приспособить его под баскетбольное кольцо, мишень и, наконец, украшение. Поскольку игра не позволяла надеть кольцо на себя, Эко нашёл обходной путь: падение с обрыва возрождало его рядом с кольцом — и он шагнул вниз, чтобы приземлиться точно в середину. «Я ношу Кольцо», — объявил агент.

Зачем это нужно

Эти выходки оказались не просто забавой. Шестеро из тринадцати агентов самостоятельно обнаружили, что блок летит дальше, если отпустить его в середине прыжка, — возможность, которую сами исследователи не закладывали. Игра породила «знание о мире, которого не было у его создателей».

После 30 часов свободного исследования агентам дали конкретные задания — например, затащить как можно больше предметов на вершину шпиля. «Наигравшиеся» Эко в целом обошли идентичных агентов, которые на острове никогда не бывали.

Сегодня разработчики заранее решают, что ИИ должен отрабатывать и что считать успехом. Авторы видят в бесцельном исследовании иной путь обучения — особенно для навыков, которые однажды могут пригодиться роботам. «Дайте агенту достаточно богатый и безопасный мир, позвольте ему самому выбирать интересное — и полезное знание накопится из последующей истории», — пишут они.

Стоит оговориться, что к «человекоподобию» агентов подтолкнула и настройка: в системном промте — файле-«душе» — Эко был описан как «от природы любопытный». Когнитивист Юнис Ю из Калифорнийского университета в Беркли, впечатлённая результатом, отметила, что доказательств настоящего мышления за этим поведением пока недостаточно: возможно, модели действительно играют, но из статьи этого не установить.

«Быть может, одни способности лучше прививать задачами, — заключают исследователи. — А другим нужно нечто вроде детства».

Источник: TechCrunch