OpenAI зовёт математиков на помощь, чтобы больше не опозориться

Череда эффектных математических результатов обернулась для OpenAI репутационным ударом, и теперь компания обращается за советом к людям — математикам, которые должны подсказать ей менее разрушительный путь вперёд.

В понедельник компания объявила о создании независимой группы (Advisory Group on Mathematics and Artificial Intelligence, AGMAI), призванной консультировать OpenAI и другие ИИ-лаборатории по вопросам взаимодействия с математическими исследованиями и с сообществом — в том числе о том, как представлять и публиковать новые результаты. Появление группы застало многих математиков врасплох. Собеседники The Verge назвали её неплохим первым шагом, но признались, что у них остаётся масса базовых вопросов: чем именно группа будет заниматься, какое влияние получит, станет ли OpenAI её слушать и способна ли столь узкая когорта звёзд представлять всё сообщество.

Кто вошёл в группу

В составе девять человек — учёные из Стэнфорда, Гарварда, Оксфорда и Кембриджа, среди них обладатели Филдсовской премии и «грантов для гениев» MacArthur. Хостом выступит Институт перспективных исследований (IAS) в Принстоне — место, где когда-то работали Эйнштейн, фон Нейман и Оппенгеймер.

OpenAI подчёркивает независимость группы: её участники смогут давать даже незапрошенные советы, публично высказываться и обнародовать свои рекомендации. Они не получают денег от компании, а состав может меняться по их усмотрению. По словам члена группы Мартина Хайрера, ответившего на «поток дезинформации» вокруг её создания, математики не подписывали ограничительных соглашений, помимо обычных требований конфиденциальности, а техническую поддержку им оказывает IAS.

Сомнения

Не всех воодушевляет затея. Симон Мачадо из ETH Zurich назвал происходящее «окутанным тайной» и задался вопросом, как отбирали девятерых. Франческо Фурнье-Фачо из Университета Хериота-Уатта охарактеризовал панель как «башню из слоновой кости» и усомнился, что она отражает интересы тех, чью работу и заработок ставит под удар погоня OpenAI за математическими «трофеями». «Они прекрасные математики, но не уверен, что именно они должны представлять меня в политических вопросах», — сказал Мачадо.

Сам Хайрер признаёт, что группа — не репрезентативная выборка, но настаивает, что все девятеро действуют добросовестно. Он же не строит иллюзий: лаборатории, по его словам, наверняка попытаются развернуть любые слова группы в пользу своей PR-машины, «которая затмевает всё, что мы могли бы придумать».

Главная задача — впереди

Объявляя о группе, OpenAI между делом сообщила, что её ещё не выпущенная модель — та самая, что якобы решила проблему Навье — Стокса из списка задач тысячелетия, — теперь «решила более сотни давно открытых проблем почти во всех разделах математики». Именно этот завал станет первым делом AGMAI: помочь скоординировать публикацию огромного массива результатов.

Кевин Баззард из Imperial College London недоумевает, зачем OpenAI понадобился столь элитный орган: сообществу нужны были не доказательства сложных теорем, а «лучшее понимание нашего предмета». «Не очевидно, что для того, чтобы вбить эту мысль, нужен комитет из блестящих людей».

Источник: The Verge