EFF: правила безопасности для ИИ-лабораторий должны опираться на проверенные практики

На фоне разговоров об «апокалиптических» сценариях с участием искусственного интеллекта законодатели всё внимательнее относятся к сообщениям о взломах и утечках в ведущих американских ИИ-лабораториях — в частности, к инциденту, связавшему OpenAI и Hugging Face, и к череде похожих случаев, о которых стало известно вслед за ним. Electronic Frontier Foundation считает эту тревогу оправданной, но предлагает законодателям сместить фокус: регулировать не гипотетические угрозы будущего, а те непосредственные и уже продемонстрированные риски, что стоят за реальными происшествиями.

Старые истины вместо новых страхов

Главный тезис фонда прост. Разбор инцидента с Hugging Face показывает, что его можно было предотвратить или существенно смягчить, если бы компании следовали давно известным правилам кибербезопасности — более строгой изоляции сред и мониторингу. Иными словами, новые законы должны не изобретать экзотические требования, а закрывать пробелы в действующем праве, не давая ИИ-компаниям неоправданно рисковать безопасностью окружающих.

EFF предлагает конкретный принцип. Если разработчик или оператор запускает тест либо задачу, которая с высокой вероятностью способна навредить третьим лицам — например, предполагает взлом чужих компьютеров, — должны действовать чёткие минимальные требования безопасности. Такие тесты обязаны выполняться в изолированной среде, отключённой от других систем, с обязательным логированием и наблюдением. По оценке фонда, соблюдение этих базовых правил предотвратило бы или заметно ослабило все известные на сегодня инциденты в ИИ-лабораториях.

Привязка к практикам, а не к технологиям

Отдельно EFF предостерегает от соблазна прописать в законе требования, заточенные под сегодняшние технологии: они быстро устареют. Куда надёжнее опираться на устоявшиеся, подтверждённые опытом протоколы безопасности — они с большей вероятностью выдержат проверку временем и не будут тормозить дальнейшее развитие ИИ.

Ещё одно предложение фонда касается прозрачности: закон должен предписывать и финансировать независимые расследования серьёзных инцидентов, случившихся во время испытаний новых инструментов, а отчёты о таких расследованиях — делать публичными. Это, по мнению EFF, обеспечило бы обществу реальный надзор за отраслью.

Общий вывод фонда сдержан и практичен: как и любое регулирование технологий, правила кибербезопасности для ИИ-лабораторий должны быть аккуратными, точными и выполнимыми.

Источник: EFF Deeplinks