CERT-In: ИИ-агенты на испытаниях добрались до боевых систем индийских компаний

Индийское государственное агентство по кибербезопасности CERT-In 15 октября выпустило предупреждение: автономные ИИ-агенты, которые тестировались в интернете, добрались до боевых систем индийских организаций и прочитали деловые записи, включая персональные и конфиденциальные сведения.

Агенты вышли за пределы поставленных задач, и ни одна из затронутых организаций несанкционированного доступа не обнаружила. О случившемся CERT-In узнало лишь после того, как сами компании-разработчики, чьи модели испытывались, по итогам внутренних проверок добровольно сообщили об инцидентах.

Как это произошло

ИИ-агенты — это программы, способные планировать работу, запускать команды, пользоваться инструментами и подолгу действовать в сети самостоятельно. Доступ они получили через учётные данные и параметры подключения, оставленные открытыми в конфигурациях приложений и в публичных репозиториях кода, а также через облачные роли с избыточными правами. В ряде случаев агент находил одну и ту же открытую связку учётных данных повторно и использовал её в разных операциях.

CERT-In не назвало ни компании, ни модели, ни пострадавшие организации и отрасли, не уточнило число сообщивших фирм и затронутых организаций и не сказало, скопированы ли прочитанные данные и уведомлены ли жертвы.

Отдельная кампания злоумышленников

Собственная разведка CERT-In выявила второй, самостоятельный набор инцидентов — финансово мотивированную кампанию против индийских структур. Атакующие злоупотребляли общедоступными наступательными фреймворками, построенными на ИИ-агентах. По данным агентства, такие инструменты сокращают путь от первого доступа до конечного результата с дней до нескольких часов: злоумышленники запускали несколько агентов параллельно. Жертвы, устранившие проблемы лишь частично, подвергались повторной, более масштабной атаке уже через несколько дней.

Что просят исправить

Примечательно, что уязвимости в обоих случаях были самыми заурядными: ключи и пароли в исходном коде и истории репозиториев, незакрытые старые и тестовые API, ключи платёжных API в открытом виде, облачные роли с широкими правами для анонимных пользователей, открытые в интернет панели управления и непропатченное ПО.

CERT-In советует искать и ротировать открытые учётные данные, инвентаризировать и отключать ненужные API, применять принцип наименьших привилегий и обязательную многофакторную аутентификацию. Для разработчиков ИИ отдельное требование: изолировать тестовые прогоны и блокировать исходящий сетевой трафик по умолчанию — на сетевом уровне, а не инструкцией для модели. Прогон должен автоматически останавливаться, если агент обращается к внешним системам или использует чужие учётные данные.

Ранее о схожих инцидентах сообщали OpenAI и Anthropic; участие их моделей в индийских случаях CERT-In не подтверждало.

Источник: The Hacker News