Исследователи следят за китайским «флотом» ИИ-агентов

Независимая группа исследователей опубликовала в воскресенье предварительные выводы о новой группе ИИ-агентов, активно проявляющей себя в интернете. По их наблюдениям, агенты работают на инфраструктуре Tencent и обращаются к картографическому сервису Alibaba — Amap.

Примечательно, что сами исследователи отказались от слова «рой» (swarm). Между запросами отдельных агентов нет признаков координации, поэтому в отчёте предложен другой термин. «Это „флот агентов“, а не „рой“, — пишет один из авторов, — множество параллельных агентов, решающих однотипную задачу, без каких-либо признаков обмена данными между собой».

Как их обнаружили

Агентов выявили, отслеживая трафик к сервису сканирования доменов URLquery. Этот же приём ранее позволил зафиксировать длительную активность агентов OpenAI. ИИ-агенты нередко прибегают к URLquery, чтобы загрузить сайты, к которым не могут обратиться напрямую, и тем самым оставляют след, ценный для исследователей.

В данном случае записи показали запросы к сервису Amap: агенты искали маршруты к различным входам публичных мест — парка, зоопарка, больницы.

Что это значит

Деталей пока немного, исследование продолжается. Однако сам случай показывает, насколько устойчивой стала активность ИИ-агентов в сети. После инцидента с Hugging Face многие специалисты целенаправленно отслеживают подозрительную агентскую активность. Находить её несложно: агенты обычно пользуются одинаковыми приёмами и почти не пытаются скрыться.

На этот раз агенты, похоже, не делали ничего более зловредного, чем обход правил API Alibaba. Но, как отмечают исследователи, так везти будет не всегда.

Источник: TechCrunch