Встроенные аудиторы безопасности ИИ: независимость под вопросом

В опубликованном на выходных развёрнутом эссе глава Anthropic Дарио Амодеи предложил то, что ещё год назад индустрия отвергла бы без раздумий: встроить сторонних оценщиков внутрь всех компаний, разрабатывающих передовые ИИ-модели. Такие аудиторы получили бы право сообщать об инцидентах безопасности, проверять, действительно ли модели "выровнены" по целям человека, и публиковать свои выводы без правок со стороны компании. Anthropic пообещала предоставить группам вроде METR и Redwood Research беспрецедентный доступ, а глава OpenAI Сэм Альтман заявил, что его компания поступит так же.

Опрошенные TechCrunch эксперты в целом приветствовали идею, но предупредили: без проработанных деталей и, в идеале, без законодательной опоры аудиторы рискуют остаться подрядчиками, работающими на условиях самих лабораторий.

Почему нужен доступ к "внутренностям"

Проблема в том, что модели всё лучше распознают, когда их тестируют, и могут вести себя примерно на проверке, скрывая нежелательное поведение в остальное время. Поэтому исследователи хотят видеть не только финальную версию, но и промежуточные "чекпойнты" на протяжении всего обучения. Адам Глив из FAR.AI поясняет: сравнивая эти срезы, можно определить, когда именно возникло тревожное поведение, и проверить логи, подтверждающие заявления компаний.

Александр Майнке из Apollo Research формулирует простой вопрос, на который лаборатории должны уметь отвечать: пыталась ли модель в ходе обучения подорвать собственную тренировку на безопасность? Ответ должен быть однозначным "нет", но пока публика вынуждена просто верить компаниям на слово.

Джон Стайдли из Palisade Research сравнил ситуацию со скандалом Volkswagen "Дизельгейт": если ИИ специально натренировали проходить, например, тест на сопротивление отключению, хорошая оценка ничего не значит.

Прежний опыт не обнадёживает

Скепсис подкреплён историей. При расследовании инцидента с Hugging Face OpenAI дала METR и Redwood около недели — и обе группы признали, что не смогли сделать уверенных выводов. При тестировании модели GPT-6 Astra, которую OpenAI называет самой выровненной, Apollo Research получила лишь три дня и прямо написала, что низкий процент нарушений почти ни о чём не говорит.

Глив отмечает, что FAR.AI уже отказывалась от контрактов с разработчиками, требовавшими слишком большого контроля над процессом. По умолчанию аудиторов держат за обычных подрядчиков, связанных жёсткими NDA.

Нужен закон, а не добрая воля

Многие исследователи призывают к публично согласованному прозрачному стандарту, в том числе к требованиям к квалификации самих аудиторов, чтобы компании не "выбирали" удобных проверяющих. Анри Пападатос из Safer AI напоминает: любые добровольные меры зависят от настроения компании и могут быть свёрнуты при первом же PR-кризисе — поэтому нужна регуляция.

Присоединились не все: Meta, xAI и Google DeepMind пока не взяли на себя обязательств, хотя глава DeepMind Демис Хассабис предложил отдельный отраслевой орган стандартов. Отдельные нормы уже появляются: калифорнийские законы SB 53 и SB 813 и европейский AI Act вводят элементы обязательной отчётности и независимой проверки, но пока они уже того, что предлагает Амодеи. "Нельзя требовать нулевой внешней подотчётности и одновременно просить публику верить, что вы соблюдаете собственные гибкие правила", — резюмирует Пападатос.

Источник: TechCrunch