OpenAI и «задачи тысячелетия»: почему математики перестали доверять ИИ-гигантам

Компания OpenAI на этой неделе объявила, что её закрытая модель нашла решение одной из семи «задач тысячелетия» — уравнений Навье—Стокса, описывающих течение жидкостей. По словам компании, на это ушло около 10 000 агентов, десятки миллионов долларов вычислительных ресурсов и всего 88 часов. В обычной ситуации это стало бы историческим событием. Вместо этого математическое сообщество встретило новость с растущим беспокойством.

Гонка вместо сотрудничества

Как пишет The Verge, поводом для конфликта стал слух: OpenAI узнала, что над той же задачей работают профессор Нью-Йоркского университета Тристан Бакмастер и исследователь Anthropic Левент Альпёге. Проблемой оказалась именно принадлежность Альпёге к главному конкуренту. По словам Бакмастера, ему предложили «практически неограниченные» вычислительные мощности и роль единственного автора статьи OpenAI — но при условии, что он «подставит Левента». Он расценил это как «взятку» и отказался.

Представитель OpenAI Себастьен Бубек в интервью The New York Times не отрицал, что компания предлагала ресурсы, и признал, что подобные договорённости заключались и с другими математиками. Но аффилиация Альпёге с Anthropic оставалась камнем преткновения: «Как у нас может быть внутренний проект OpenAI с сотрудником Anthropic?»

Чей это результат?

Бакмастер и профессор Дрезденского технического университета Андреас Том поставили ещё один вопрос: не могли ли их запросы к инструментам OpenAI (Codex, ChatGPT) повлиять на обучение моделей. Компания «категорически» отрицает такую возможность, но математики настроены скептически. «Честно говоря, подозреваю, что они и сами не знают, — говорит Том. — А значит, им попросту всё равно».

Здесь звучит тот же спор, что и в конфликтах ИИ-компаний с писателями, музыкантами и художниками: что компании должны тем, чьим накопленным трудом они воспользовались? Для математиков особенно важна «родословная» идей — новые методы часто ценнее самой решённой задачи.

Эффект охлаждения

Математики опасаются, что корпорации превратят «опережение» коллег в промышленный процесс, разворачивая тысячи агентов при первом слухе о близком прорыве. Многие уже становятся скрытнее; списки важных нерешённых задач рискуют превратиться в списки мишеней. В июне была опубликована Лейденская декларация о ответственном использовании ИИ, которую подписали почти 3900 человек. OpenAI пришлось отозвать спонсорство студенческого хакатона в Калтехе.

Лауреат Филдсовской премии Шинтун Яу указывает на конфликт интересов: компании одновременно поставляют исследовательские инструменты и конкурируют с исследователями, имея доступ к чужим незавершённым работам.

Формально победу ещё рано праздновать: Институт Клэя требует двух лет и «общего признания» сообщества, прежде чем признать задачу решённой. OpenAI между тем уже сообщила о «существенном прогрессе» по другой задаче тысячелетия. Но, как заключает Бакмастер, всё сводится к доверия, которого больше нет: «Им нет дела до нас как до сообщества. Это лишь мелочная драма двух триллионных компаний, которые ведут себя как дети».

Источник: The Verge