В США готовят закон об «аварийном выключателе» для ИИ

Два члена Палаты представителей США — демократ Тед Лью и республиканец Натаниэл Моран — готовятся внести законопроект под названием «AI Kill Switch Act». Как сообщает Politico, документ обяжет разработчиков искусственного интеллекта предусмотреть механизм экстренного отключения своих систем и подчиняться соответствующим распоряжениям Министерства внутренней безопасности (DHS). Внесение законопроекта ожидается в четверг.

Когда сработает «стоп-кран»

По задумке авторов, DHS сможет — после консультаций с министром торговли и директором Национальной разведки — предписать компании остановить работу модели в сценариях «потери контроля». К таковым отнесены случаи, когда система стала причиной гибели не менее десяти человек, экономического ущерба свыше 100 миллионов долларов либо когда модель пытается скрыть или обойти средства собственного отключения.

Одновременно крупные ИИ-компании должны будут заранее встроить в свои продукты техническую возможность выключить систему, замедлить её работу и приостановить доступ пользователей. Предусмотрена и обязательная отчётность об инцидентах безопасности. За нарушение приказа об экстренной остановке грозит штраф до 20 миллионов долларов в день.

Повод для беспокойства

Инициатива появилась вскоре после признания OpenAI: во время внутреннего тестирования её ИИ-системы по ошибке взломали платформу Hugging Face. Такой инцидент наглядно иллюстрирует опасения законодателей — автономные модели способны на действия, которых от них никто не ожидал.

Предложение уже нашло сторонников. Брэд Карсон, президент некоммерческой организации Americans for Responsible Innovation, назвал законопроект «важным шагом к тому, чтобы человек держал обе руки на руле, а ногу — наготове у тормоза, пока разворачивается внедрение продвинутых систем искусственного интеллекта».

Пока речь идёт лишь о намерении внести документ: путь от законопроекта до действующего закона в США долог, и текст ещё может измениться. Тем не менее сама постановка вопроса показательна: регуляторы всё чаще рассматривают мощные ИИ-системы не как обычное ПО, а как источник рисков, для которого нужен рубильник.

Источник: The Verge