EFF об указе губернатора Калифорнии по ИИ: начинать надо с реальных рисков

Электронный фронтир (EFF) отреагировал на исполнительный указ губернатора Калифорнии Гэвина Ньюсома, посвящённый искусственному интеллекту. Организация оценивает документ как повод для необходимого и вдумчивого разговора о технологии и её потенциальном вреде и называет его «хорошим началом». По мнению EFF, жители штата испытывают вполне реальную тревогу по поводу ИИ, и Калифорния может возглавить назревшую общественную дискуссию.

Однако главный тезис заявления в том, что самые актуальные угрозы связаны вовсе не с фантастическими сценариями о вышедшем из-под контроля сверхинтеллекте. Проблемы происходят прямо сейчас: предвзятые алгоритмические решения при найме на работу и распределении государственных пособий, системы слежки на основе ИИ (в качестве примера названы камеры Flock) и искусственно завышенное персонализированное ценообразование. Именно этих сюжетов, считает EFF, ждут от властей избиратели.

Отчётность и «рубильники»

Организация поддерживает намерение расширить требования к отчётности по закону SB 53 (2025 года) в отношении инцидентов с потерей контроля над системами, а также идею независимых сторонних расследований. При этом EFF призывает продумать, как сделать такие расследования доступными и для небольших разработчиков, а не только для крупных лабораторий.

Отдельное предостережение касается так называемых «рубильников» (kill switches) для продвинутых ИИ-систем. По словам EFF, их эффективность остаётся предметом активных исследований, поэтому любое регулирование, затрагивающее практики кибербезопасности в ИИ-лабораториях, должно быть аккуратным, точным и практичным. Более того, механизмы аварийного отключения, контролируемые государством, рискуют превратиться в инструмент давления и мести за защищённые законом высказывания. В подтверждение организация ссылается на действия администрации Трампа против компании Anthropic ранее в этом году.

Приоритет — конкретный вред

Вывод EFF прямолинеен: подлинная безопасность требует сосредоточиться на конкретных, немедленных и насущных угрозах, а не на гипотетических катастрофах. Ключевое условие — чтобы алгоритмическое принятие решений и в государственном, и в частном секторе уважало права и благополучие людей. Организация призывает Ньюсома и власти штата разрабатывать политику совместно с теми, кто больше всего рискует пострадать от подобных технологий.

Источник: EFF Deeplinks