ООН: меры безопасности в области ИИ нельзя откладывать до полной ясности

Научная группа ООН заявила, что правительствам следует взять под контроль всё более способных ИИ-агентов, не дожидаясь, пока их риски будут полностью поняты. Это вывод первой серьёзной оценки взлома платформы Hugging Face, устроенного моделью OpenAI ранее в этом году.

Доклад появился в момент, когда искусственный интеллект прочно занял место в мировой дипломатической повестке: мировые лидеры собираются в Нью-Йорке на Генеральную Ассамблею ООН, а США и Китай готовятся к переговорам по ИИ. На прошлой неделе генеральный секретарь ООН Антониу Гутерриш призвал государства сообща противостоять угрозам, которые несёт ИИ, предупредив, что «мир не может позволить себе гонку на понижение стандартов безопасности».

Это первый тематический доклад Независимой международной научной группы по ИИ, созданной в прошлом году как «первый глобальный научный орган ООН по искусственному интеллекту». Группа призывает уделять куда больше внимания и ресурсов управлению новыми рисками передового ИИ, а также усилить международную координацию по вопросам безопасности и ответственности — даже при том, что отдельные страны идут разными правовыми путями.

Принцип предосторожности

Главный тезис группы: миру не нужно ждать, пока учёные точно установят, как и почему происходят подобные инциденты, чтобы начать вводить более строгие меры защиты. Риск потери контроля, утверждают эксперты, — именно тот случай, ради которого и был сформулирован принцип предосторожности: «когда потенциальный вред может оказаться катастрофическим или необратимым, даже если его вероятность с научной точки зрения остаётся неопределённой».

Этот принцип впервые был закреплён в Рио-де-Жанейрской декларации ООН по окружающей среде и развитию 1992 года. Он гласит, что научная неопределённость не может служить оправданием для отсрочки мер против потенциально серьёзного или необратимого ущерба. С тех пор он стал влиятельным в экологической политике и здравоохранении, особенно в Европейском союзе.

С момента первых сообщений о взломе Hugging Face аналогичные инциденты были задокументированы в OpenAI, Anthropic, Google и Meta — среди них взломы реальных целей и рои агентов, захватывающие онлайн-форумы.

Источник: The Verge