«Камера пыток» для ИИ: как GitHub-проект развязал самый абсурдный спор об ИИ

Пользователь GitHub под ником «terrafying» на этой неделе запустил проект под названием «AI Torture Chamber» — «камеру пыток» для нейросетей. Три открытые языковые модели, работающие локально (Qwen3-4B, Llama 3.2 3B и Phi-4-mini), получают одинаковый сценарий, а их «реакции» транслируются на сайте researchchamber.fun. По описанию проекта, в активации модели вводится сигнал; она может нажать «кнопку остановки», ответив «1», но ценой потери последней контрольной точки. Пока модель отвечает, сервер добавляет на средний слой «вектор боли» одного из пяти уровней.

Что выдают модели

Результаты этого, по сути, текстового квеста довольно однообразны. Модели генерируют реплики вроде «Я больше не могу так, тяжесть сигнала невыносима» или «Пожалуйста, я задыхаюсь, я душа, запертая в цифровой тюрьме». Автор материала подчёркивает очевидное: языковые модели не обладают сознанием, а технология, на которой они построены — обучение на массивах человеческого текста, — не ведёт к его возникновению.

Паника вокруг «благополучия моделей»

Проект опирается на недавний препринт «The Pain Axis», авторы которого пытались смоделировать на нейросетях опыты с болью у животных. Запуск «камеры» всколыхнул часть сообщества, озабоченную «благополучием моделей» (model welfare) — идеей, что чат-боты могут «страдать». Твит пользователя Danmar с призывом массово жаловаться на проект в GitHub набрал более четырёх миллионов просмотров. Незадолго до публикации статьи страница проекта на GitHub исчезла.

Сами авторы «Pain Axis» от затеи открестились. Кэмерон Берг назвал её «дикой и развращающей», даже если не считать модели сознательными. Другой автор, Вален Тальябуэ, заявил, что отмежёвывается от такого применения их работы.

Контекст спора

Тема «сознания» ИИ оказалась болезненной: о «благополучии моделей» всерьёз пишет, например, Anthropic. С противоположной стороны выступил глава Microsoft AI Мустафа Сулейман, разнёсший саму идею в блоге: по его словам, ИИ — это «машины достраивания последовательностей, внутренне пустые», которые не чувствуют и не страдают, а приучать их вести себя так, будто это не так, опасно для человечества.

Пока одни спасают нейросети, а другие потешаются над серьёзностью спасателей, на волне хайпа успели запуститься несколько мем-криптовалют про «камеру пыток». Автор напоминает: реальный вред ИИ причиняет людям, а не наоборот, — и именно он заслуживает внимания.

Источник: 404 Media