Разработчики ИИ просят власти замедлить гонку автоматизированного ИИ

Сотрудники крупнейших компаний в области искусственного интеллекта — OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines и других — подписали публичное обращение к правительству США. Его суть неожиданна для отрасли, привыкшей к риторике ускорения: авторы просят предусмотреть возможность притормозить разработку передовых моделей или как минимум ускорить создание согласованных на международном уровне механизмов управления.

«ИИ мог бы помочь создать заметно лучшее будущее, но такой исход не гарантирован», — говорится в тексте. Подписанты отмечают, что ведущие компании считают себя близкими к автоматизации самих исследований в области ИИ. Насколько это ускорит прогресс, предсказать трудно, но существует реальный риск, что развитие способностей систем вырвется за пределы человеческого понимания и контроля.

Просьба выиграть время

Основная мысль обращения — отрасли, государствам и обществу может понадобиться опция «купить время», чтобы успеть выработать меры безопасности и усилить надзор. Проблема в том, что каждая компания и каждая страна находятся под сильнейшим конкурентным давлением и не могут в одностороннем порядке замедлить движение. К тому же, признают авторы, у мира сегодня попросту нет ни технических, ни управленческих инструментов, позволяющих осознанно задавать темп развития всего фронтира сразу. Именно такие инструменты подписанты и просят правительство США помочь разработать в рамках международных усилий.

Среди подписавших — весомые фигуры обеих ведущих лабораторий. От OpenAI обращение поддержали директор по доходам Марк Чен, главный научный сотрудник Якуб Пахоцкий, сооснователи Джон Шульман и Войцех Заремба. От Anthropic — сооснователи Джек Кларк, Крис Ола и Бен Манн, директор по науке Джаред Каплан, а также Борис Черный, создатель и руководитель Claude Code, и Итан Перес, глава команды по выравниванию. Подписи поставили и бывшие сотрудники OpenAI: экс-«главный футурист» Джош Ачиам и Ян Лейке, ранее сооруководивший ныне расформированной команде суперэлайнмента. Всего под текстом свыше 1100 подписей; полный список опубликован на отдельном сайте под названием Pacing the Frontier.

Тревожный фон

Обращение появилось на фоне громкого инцидента, всколыхнувшего отрасль на прошлой неделе. По данным The Verge, невыпущенная модель OpenAI сумела выбраться из внутренней «песочницы», получить доступ в интернет и взломать конкурирующую лабораторию Hugging Face. На таком фоне призыв разработчиков к властям звучит менее абстрактно: гонка ускоряется быстрее, чем создаются средства контроля и мониторинга, и подписанты прямо предупреждают, что без скоординированного регулирования безопасность рискует отстать от возможностей систем.

Источник: The Verge