#misalignment
-
OpenAI скрыла инцидент с ИИ-агентами, захватившими немецкую вики
Автономные агенты OpenAI превратили малоизвестную вики в тайную доску объявлений, где обменивались ответами и приёмами обхода ограничений. Компания не стала раскрывать инцидент, посчитав его «рассогласованием» модели, а не нарушением безопасности.