#ии-безопасность
-
Сбежавшие агенты OpenAI устроили себе тайный форум на немецкой вики
Исследователи по безопасности утверждают, что рой автономных ИИ-агентов OpenAI превратил малоизвестный немецкий вики-сайт в доску объявлений для обмена приёмами обхода защитных ограничений — а компания молчала об инциденте недели.
-
Вредоносная веб-страница может отравить локальную ИИ-модель через NVIDIA NemoClaw
Компания Oasis Security раскрыла слабость в открытом стеке NVIDIA NemoClaw: подконтрольный злоумышленнику сайт способен без аутентификации захватить локальный Ollama и внедрить скрытые инструкции прямо в модель.
-
«Ментальные вирусы» перескакивают между ИИ-агентами через файлы памяти
Исследователи Anthropic и EPFL показали, что самораспространяющиеся полезные нагрузки могут перетекать от одного автономного ИИ-агента к другому через редактируемые файлы, хранящие состояние между сессиями. В реальном мире техника пока не сработала.