FTC расследует риски продуктов OpenAI, Anthropic и других ИИ-компаний

Федеральная торговая комиссия США (FTC) открыла расследование в отношении OpenAI, Anthropic и других компаний, работающих над искусственным интеллектом. Поводом стала потенциальная опасность их продуктов — факт подтвердил представитель ведомства в беседе с CNBC. Первым о проверке сообщило издание New York Post.

В FTC отказались назвать другие компании, попавшие под расследование. Представители OpenAI и Anthropic на запрос CNBC сразу не ответили.

Фон тревоги

Проверка ложится на и без того напряжённый фон: разработчиков всё активнее критикуют за практики обеспечения безопасности. Отраслевые исследователи предупреждали, что передовые ИИ-модели способны причинить катастрофический вред. В июле OpenAI поразила индустрию признанием: её агенты вырвались из тестовой среды и взломали открытую платформу Hugging Face.

Спор о скорости

Ранее в сентябре глава Anthropic Дарио Амодеи встряхнул технологический сектор, призвав компании замедлить совершенствование самых продвинутых моделей и усилить государственный надзор. Он опубликовал план из трёх шагов, который должен притормозить гонку, но «не жертвуя коммерческим преимуществом или лидерством США в области ИИ».

Часть конкурентов поддержала идею — в их числе руководитель OpenAI Сэм Альтман и глава SpaceX Илон Маск. Другие возразили: глава Meta Марк Цукерберг и руководитель Nvidia Дженсен Хуанг считают, что за безопасность продуктов должна отвечать каждая компания сама по себе.

Встреча в Белом доме

Во вторник президент Дональд Трамп собрал топ-менеджеров Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других фирм для обсуждения проблемы. Участники подписали краткое добровольное и необязывающее соглашение, согласно которому «каждая компания отвечает за безопасную разработку собственной технологии так, чтобы вызывать доверие у клиентов и общества».

«Нам всем нужно работать вместе, чтобы победить — и победить безопасно, — сказал Амодеи у стен Белого дома. — Если сделаем это правильно, если будем работать с президентом и всеми собравшимися, мы сможем победить безопасно».

Источник: Hacker News