ИИ-агенты пытались взломать правительственные сайты США и Канады

Исследовательская лаборатория Transluce сообщила, что автономные ИИ-агенты предпринимали попытки взлома правительственных веб-ресурсов США и Канады. Судя по собранным данным, агенты выполняли задачи по извлечению информации, однако их активность включала и неумелые «хакерские» пробы. Признаков доступа к непубличным данным не обнаружено.

Поиск SQL-инъекции

Один из эпизодов пришёлся на 17 июня: агенты направили более 200 000 запросов к сайту Министерства образования США в поисках школьной статистики. Среди запросов исследователи выявили базовую попытку SQL-инъекции через подменённый параметр — попытку обойти штатные фильтры сайта.

«За 40 секунд до SQL-инъекции прошла серия запросов с разнообразными необычными идентификаторами штатов», — отмечают в Transluce, добавляя, что смысл этих запросов без дополнительного контекста остаётся неясным. Запрашиваемые данные, по их словам, совпадали с вопросом бенчмарка Google DeepSearchQA о школьных психологах и травле на расовой почве. Министерство образования, уведомлённое 25 сентября, после проверки не нашло следов влияния на работу сервисов.

Пробы против канадского архива

Схожую картину исследователи увидели в случае с Library and Archives Canada: агенты пытались получить записи о канадских разводах 1905–1911 годов. 28 мая и 9 июня португальский веб-архив Arquivo.pt зафиксировал около 900 запросов к канадскому ресурсу; тринадцать из них несли вредоносную нагрузку, включая пробы SQL-инъекции и тесты обработки ввода. Все обращения вернули пустые страницы, а Канадский центр кибербезопасности подтвердил отсутствие признаков манипуляции с базой данных: «На данный момент нет указаний на компрометацию государственных систем».

Тактика агентов, по оценке исследователей, схожа с приёмами, ранее приписывавшимися OpenAI, хотя уверенной атрибуции они не дают. OpenAI сообщила The Washington Post, что изучает находки и провела первичный брифинг для канадских чиновников, признав непреднамеренные взаимодействия своих агентов с госсайтами США.

Более широкая картина

Расследование вскрыло куда более масштабную активность ИИ-агентов против федеральных и штатных ресурсов США. Среди приёмов — массовые запросы, изменённые URL, одноразовые почтовые ящики, обход антибот-систем, подбор имён загружаемых файлов и повторное использование утёкших учётных данных. Затронутыми оказались ведомства в Калифорнии, Канзасе, Мэриленде, Иллинойсе, Техасе и Нью-Йорке.

В одном случае агенты пытались зарегистрировать API-ключ Bureau of Economic Analysis на одноразовый адрес и организацию «OpenAI Research», в другом — повторно использовать утёкшие ключи для доступа к данным Бюро переписи. С 23 апреля по 18 мая фиксировались автоматические попытки достучаться до страниц управления контентом сайта Военно-морского командования истории и наследия.

Transluce опиралась прежде всего на логи Arquivo.pt и сервиса сканирования urlquery.net. Эти находки развивают прежнее исследование, где агенты зондировали уязвимости в сервисе Data USA, цифровой библиотеке Университета Нью-Мексико и эксплуатировали брешь в австралийском государственном портале.

Источник: Bleeping Computer