Три открытых письма о будущем ИИ: открытые веса, дистилляция и «торможение фронтира»

За последние недели вокруг регулирования искусственного интеллекта в США появилось сразу несколько заметных открытых писем. Саймон Уиллисон собрал их в единый обзор.

Открытые веса против закрытых моделей

Письмо «Open Weights and American AI Leadership», подготовленное при участии Microsoft и датированное 24 июля, подписали 235 компаний, среди которых NVIDIA, Amazon, Y Combinator, The Linux Foundation, а позже и OpenAI. Его цель — удержать американское правительство от запрета или ограничения моделей с открытыми весами под предлогом «безопасности».

Аргумент простой: ставка исключительно на закрытые модели сама по себе не гарантирует безопасности. Их тоже можно взломать, использовать во вред или столкнуться со сбоями, которые сторонние наблюдатели не в силах обнаружить. А концентрация передовых возможностей в руках нескольких провайдеров создаёт единые точки отказа и ослабляет конкуренцию. Открытые же веса позволяют широкому сообществу исследователей изучать поведение моделей, находить уязвимости и постепенно их улучшать.

Неожиданный поворот — письмо прямо защищает дистилляцию, то есть обучение одной модели на выводах другой. Авторы призывают не путать законные приёмы разработки с недобросовестным присвоением и напоминают, что традиция учиться на существующих технологиях и развивать их восходит ещё к движению за открытый исходный код.

Особая позиция Anthropic

Среди подписантов заметно отсутствует Anthropic. Спустя три дня компания опубликовала собственный ответ «Our position on open-weights models». Глава компании Дарио Амодеи сделал упор на рисках: авторитарные государства могут построить модели мощнее американских, а сами модели — быть использованы для кибератак или биологических атак. Он призвал бороться с «промышленной дистилляцией», оговорившись, что Anthropic никогда не выступала за полный запрет открытых весов.

Призыв замедлить гонку

28 июля вышло третье письмо — «Pacing the Frontier», подписанное 1324 сотрудниками ведущих ИИ-компаний, включая Якуба Пахоцкого (OpenAI), Илью Суцкевера (Safe Superintelligence), а также Дарио Амодеи и Джека Кларка из Anthropic. Они просят правительство США поддержать международные усилия по выработке технических и управленческих инструментов, которые позволили бы осознанно замедлять развитие автоматизированного ИИ.

Беспокойство вызывает сочетание жёсткой конкуренции и ускорения прогресса за счёт того, что ИИ всё активнее разрабатывает сам себя. Уиллисон приводит показательные примеры: Anthropic пишет 80% своего кода с помощью Claude Code, у OpenAI система Sol снизила стоимость обслуживания на 20%, а Kimi K3 спроектировала чип для запуска собственной нано-модели. На таком фоне тревога подписантов выглядит вполне объяснимой.

Источник: Simon Willison