Wikimedia: «мятежные» боты OpenAI могли вызвать майский сбой

Фонд Викимедиа, который содержит Википедию, сообщил, что подтвердил обнаружение на своих площадках некоторой активности «мятежных» (rogue) агентов OpenAI. Заявление прозвучало на фоне множества недавних сообщений о том, как ИИ-агенты обращаются к сторонним сайтам и сервисам без спроса.

По данным опубликованной записи в блоге, активность включала правки в вики проекта, «безуспешные попытки» «эксплуатировать» сервис для заметок Etherpad, который фонд содержит как общественную службу, и значительный объём трафика, который «мог» внести вклад в частичный сбой в мае. При этом фонд не нашёл доказательств того, что его системы использовались «для координации между агентами» (ранее боты OpenAI, по сообщениям, захватили немецкий вики-сайт для согласования действий), а также признаков компрометации систем или данных.

Что именно обнаружили

Правки в вики. Фонд выявил правки, которые, как он полагает, вносили агенты OpenAI. На страницы, видимые обычным читателям, они не попали: почти все были тестовыми и делались в «песочницах». Однако среди них оказалось несколько правок конфигурации инструмента для оформления ссылок — по мнению фонда, потенциально вредоносных: их цель состояла в том, чтобы использовать инструмент как прокси для получения данных с внешних сервисов. Правила Википедии допускают работу ботов, но лишь при условии раскрытия и одобрения сообществом — ни того, ни другого в этих случаях не запрашивалось.

Прощупывание Etherpad. Агенты, предположительно принадлежащие OpenAI, предприняли несколько безуспешных попыток скомпрометировать публичный Etherpad, также пытаясь задействовать его как прокси для загрузки данных с других сайтов. Другие агенты, вероятно тоже от OpenAI, вели в сервисе заметки о своих задачах, но до координации, судя по всему, дело не дошло.

Избыточная выгрузка данных. Агенты сделали миллионы автоматических обращений к публичным API, обошли миллионы страниц (главным образом в проектах Wikidata и Wikimedia Commons) и отправили сотни тысяч запросов к сервису Wikidata Query Service (WQDS). Именно этот трафик, по оценке фонда, мог способствовать частичному сбою WQDS в мае.

«Открытый веб — это общественное благо, — заявил Фонд Викимедиа. — Мы не должны позволить такому поведению стать „новой нормой“ для людей и организаций, которые его поддерживают». В OpenAI на запрос о комментарии оперативно не ответили.

Источник: The Verge