ИИ сделает софт слишком безопасным — и спецслужбы «ослепнут»

Криптограф из Университета Джонса Хопкинса Мэттью Грин сформулировал парадоксальное опасение: искусственный интеллект вот-вот сделает программное обеспечение слишком защищённым. Само по себе это звучит как хорошая новость, но у неё есть неприятная оборотная сторона.

Как правоохранители научились взламывать

Грин напоминает недавнюю историю. В конце 2000-х появились смартфоны, которые не просто передавали, но и хранили данные. Около 2010 года Apple начала шифровать содержимое iPhone ключом на основе пароля, вскоре подтянулся Android. К 2016 году почти миллиард пользователей WhatsApp по умолчанию общались через сквозное шифрование.

ФБР отреагировало инициативой Going Dark (2014) и требованиями «исключительного доступа». Кульминацией стало дело Apple против ФБР в 2016 году: бюро потребовало разблокировать iPhone стрелка, Apple отказалась — а тупик неожиданно разрешила сторонняя компания, просто взломав телефон. С тех пор острота спора спала: спецслужбам стали доступны коммерческие инструменты вроде GrayKey для разблокировки и Pegasus от NSO Group для удалённой эксплуатации. Производители закрывали дыры, но охотники за уязвимостями стабильно сохраняли преимущество.

Эпоха ИИ-багхантинга

Всё изменилось, утверждает Грин, с приходом моделей, заточенных под поиск уязвимостей. В апреле 2026 года Anthropic выпустила модель Mythos, оптимизированную под эту задачу; правительство США временно ограничило её экспорт. Мера оказалась бессмысленной: OpenAI и китайские лаборатории открытых моделей — Z.ai и Moonshot — показали, что монополии на такой поиск ни у кого не будет.

Теперь защитники массово латают уязвимости — накопленные за десятилетия. Целые конвейеры сборки перестраиваются так, чтобы ИI-сканеры проверяли код ещё до того, как до него доберётся хакер. Найти абсолютно все баги невозможно, но Грин ожидает, что в ближайшие пару лет крупные и хорошо поддерживаемые программы попросту исчерпают запас удалённо эксплуатируемых дыр.

Обратная сторона безопасности

Для разведки и полиции это означает настоящее «затемнение» — впервые с 2010 года. А значит, спрос на встроенные, намеренные бэкдоры вернётся с новой силой, и на индустрию усилится давление переделать системы под «исключительный доступ».

Самое опасное, подчёркивает Грин, в том, что такие бэкдоры ослабят прежде всего те страны, которые их потребуют. США рискуют ослабить собственные системы ровно в тот момент, когда наконец начали наводить порядок в своей инфраструктуре, — а зарубежные правительства могут вовсе отказаться от американского софта.

Готового рецепта у автора нет. Это, признаётся он, не призыв к действию, а лишь осознание, что нас несёт к миру, который будет заметно отличаться от нынешнего. Остаётся надеяться, что на этот раз выбор окажется правильным — хотя бы потому, что он правильный.

Источник: Hacker News