Иск требует раскрыть секретные правила проверки ИИ в США

Некоммерческая беспартийная организация Protect Democracy подала иск против четырёх федеральных ведомств США, добиваясь публикации системы правил, по которой администрация Трампа проводит проверки безопасности передовых ИИ-моделей перед их выходом. По утверждению истцов, «почти никаких подробностей» не было раскрыто ни публике, ни Конгрессу: неизвестно, как устроена процедура, какие компании участвуют в разработке критериев и на каком правовом основании чиновники вообще проводят эти проверки.

Организация называет это опасной непрозрачностью. Решения о том, какие модели допускаются к выпуску, могут оказаться «важнейшим политическим вопросом» этого Белого дома. При этом, как отмечается, OpenAI уже заключила частное соглашение с правительством об ограничении распространения своих новейших моделей кругом «проверенных партнёров», чьи имена и критерии отбора не названы.

Подозрения в коррупции

Истцы допускают, что механизм может использоваться недобросовестно: чиновники способны ускорять одобрение для угодных администрации фирм и наказывать неугодных. В качестве примера приводится недавнее судебное решение, признавшее незаконным внесение компании Anthropic в чёрный список за «излишнюю прогрессивность». Общественность, по мнению Protect Democracy, не может слепо доверять власти в столь чувствительной сфере, тем более на фоне роста киберугроз.

Отдельно подчёркивается, что сама система правил, в отличие от «засекреченного процесса бенчмаркинга», формально не имеет грифа секретности. Тем не менее Белый дом отказывается делиться деталями. Представитель администрации заявил журналистам: то, что документ не засекречен, ещё не значит, что его будут «транслировать всем подряд».

GOLD EAGLE и вопрос к Конгрессу

В июле Белый дом запустил площадку GOLD EAGLE, где отраслевые партнёры помогают ведомствам выявлять киберуязвимости, а 3 августа объявил о завершении добровольной системы проверки моделей. И здесь, отмечают истцы, не названы ни участники, ни условия, ни правовые основания программы.

Это важно, поскольку Конгрессу вскоре предстоит решать судьбу закона о совместном использовании кибербезопасной информации (CISA) 2015 года — по-видимому, единственной правовой опоры GOLD EAGLE. Один из высокопоставленных чиновников признал при запуске программы, что без продления её действия «эта инициатива фундаментально уязвима». Как заявила представитель организации Диана Эль-Маллавани, законодателей фактически ставят перед голосованием, не объяснив, как программа работает и кто в ней участвует.

Protect Democracy направила идентичные FOIA-запросы четырём ведомствам, но ни одно пока не выдало документов. Иск требует предоставить всю незасекреченную информацию до 30 сентября. В противовес федеральному подходу истцы приводят калифорнийский законопроект SB 813, разработка которого, как подчёркивает сенатор штата Джош Беккер, велась полностью публично.

Источник: Ars Technica