OpenAI обновила Model Spec: пять ценностей для более способного ИИ

OpenAI опубликовала обновлённую версию Model Spec — документа, в котором компания описывает принципы, определяющие поведение её моделей искусственного интеллекта.

Главное в новой редакции — пять базовых ценностей. По замыслу компании, они должны направлять всё более способные системы ИИ. В кратком описании обновления названы три ориентира: здравое суждение (sound judgment), уважение к самостоятельности человека (human agency) и верность человеческим намерениям (faithfulness to human intent).

Заголовок публикации подчёркивает, что цель обновления — сделать ИИ одновременно «более способным и более полезным». По логике документа, чем сильнее становятся модели, тем важнее, чтобы их поведение опиралось на ясно сформулированные ценности, а не только на набор частных правил.

Полный перечень пяти ценностей и подробности формулировок в доступном анонсе не раскрываются. Судя по описанию, акцент сделан на двух вещах: модель должна действовать в интересах пользователя и не подменять его решения своими.

Источник: OpenAI News