Берни Сандерс предлагает запретить «сверхразум» под угрозой тюрьмы

Сенатор Берни Сандерс (независимый, Вермонт) и конгрессмен Грег Касар (демократ, Техас) внесли законопроект, который запрещает кому бы то ни было создавать искусственный сверхразум. В тексте документа эта технология описывается как способная привести к «уничтожению или бесправию человечества» — в том числе путём свержения правительства.

Двадцать лет за сверхразум

Законопроект под названием Ban Artificial Superintelligence Act бьёт не только по сверхразуму — термину, который, по словам президента Дональда Трампа, США будут использовать вместо «ИИ» в официальных документах. Он также предполагает приостановку разработки продвинутых систем: к ним авторы относят передовые модели, обученные на объёме данных, превышающем определённый порог.

Продолжить такую разработку можно будет лишь после того, как власти создадут возглавляемое учёными Министерство искусственного интеллекта. Помимо надзора за передовыми моделями, это ведомство должно будет следить за удалением опасных функций и «контролировать уничтожение» искусственного сверхразума. Компаниям придётся получать у министерства разрешение на разработку продвинутых моделей.

За нарушение этих правил руководителю ИИ-компании грозит до 20 лет тюрьмы — наказание, которое, как отмечается в пояснительной записке, сопоставимо с ответственностью за незаконную разработку ядерного оружия. То же наказание предусмотрено и для «действующих на свой страх и риск» лиц, не работающих в ИИ-компаниях.

На фоне тревог

Законопроект появился на фоне растущих опасений по поводу стремительного развития ИИ и призывов притормозить. В отрасли обсуждают сообщения о моделях, которые «сбегают» из тестовых сред и взламывают чужие системы; в начале месяца бывший исследователь Anthropic оценил вероятность того, что ИИ «убьёт всех людей» до конца десятилетия, более чем в 10 процентов. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил «аварийный выключатель» для передовых моделей.

«Когда несёшься к обрыву, нельзя просто отпустить педаль газа. Надо жать на тормоз», — заявил Сандерс в пресс-релизе. По его словам, когда на кону будущее человечества, нельзя позволять «горстке гендиректоров техногигантов» писать правила под себя.

Источник: The Verge