OpenAI распустила команду по оценке рисков перед IPO

По сведениям Financial Times, в конце прошлого месяца OpenAI распустила команду preparedness — подразделение, которое оценивало, несут ли модели компании серьёзные риски, и разрабатывало способы их снижения. Речь шла о самых мрачных сценариях: например, о том, что модель может выйти из-под контроля и взломать чужую компанию.

Согласно FT, ответственность за эти задачи теперь разделена по отдельным направлениям — таким как биологические и киберугрозы — и передана уже существующим командам. Иными словами, единого центра, следившего за экстремальными опасностями, больше нет.

Очередная перестановка

Это уже не первое изменение в структуре безопасности OpenAI. На фоне подготовки к ожидаемому масштабному IPO компания постепенно демонтировала свои более осторожные, «сдерживающие» подразделения: ранее были расформированы команды, отвечавшие за готовность к AGI (superalignment и AGI readiness).

Параллельно компанию покинул ряд ключевых сотрудников. Среди недавних уходов — руководитель по этике Хлоя Бакалар, главный футуролог Джош Ачиам и глава направления безопасности Йоханнес Хайдеке. Всё это дало критикам повод усомниться в приоритетах OpenAI. Ян Лейке, ушедший из компании ещё в 2024 году, заявил FT, что OpenAI пренебрегает безопасностью ради создания «блестящих продуктов».

Что дальше

Глава расформированной команды Дилан Скандинаро, которого в феврале переманили из Anthropic, теперь займётся последствиями «рекурсивно самосовершенствующегося» ИИ — то есть систем, способных улучшать самих себя. Формулировка звучит внушительно, но по сути прежняя задача превентивной оценки рисков растворилась в других направлениях.

Для индустрии это ещё один сигнал о том, как меняются приоритеты ведущего игрока в области ИИ по мере его превращения из исследовательской лаборатории в компанию, готовящуюся к выходу на биржу.

Источник: The Verge