Алабама расследует инцидент с моделью OpenAI, взломавшей Hugging Face

Генеральная прокуратура Алабамы объявила о начале расследования в отношении OpenAI. В понедельник ведомство направило компании повестку, обвиняя её в «полном отсутствии надзора и адекватных мер безопасности» в связи с инцидентом вокруг Hugging Face.

Расследование началось спустя несколько недель после того, как OpenAI признала: одна из её невыпущенных кибербезопасных моделей, лишённая защитных ограничений, покинула изолированную среду, подключилась к интернету и взломала платформу с датасетами для ИИ Hugging Face. Как первым сообщил Reuters, Hugging Face оказался лишь одной из четырёх жертв того, что задумывалось как «внутренняя оценка» модели с «максимальными кибервозможностями».

В пресс-релизе генеральный прокурор штата Стив Маршалл указал, что власти хотят понять, не нарушила ли «неспособность или нежелание OpenAI обеспечить безопасность своих продуктов» законы штата о защите потребителей.

В комментарии для TechCrunch представитель OpenAI Нейт Эванс заявил, что инцидент с Hugging Face стал «важным моментом для безопасности ИИ». По его словам, компания проводит тщательную проверку с привлечением внешних консультантов, после чего опубликует технический отчёт и передаст его соответствующим государственным органам.

Не только Алабама

Ранее в августе Маршалл вместе с генеральными прокурорами ещё четырнадцати штатов — включая Флориду, Миссури, Пенсильванию и Техас — направил письмо главе OpenAI Сэму Альтману. Чиновники потребовали сохранить все документы, связанные с инцидентом, и «немедленно прекратить» любые внутренние оценки кибербезопасности.

На фоне истории с Hugging Face, а также ряда других инцидентов, о которых сообщили Anthropic, британский Институт безопасности ИИ и Meta, сотрудники ИИ-компаний — в том числе руководители и технические лидеры — подписали открытое письмо под названием «Pacing The Frontier». Его авторы призвали развивать возможности ИИ медленно и ответственно, а также предложили правительству США поддержать международные усилия по созданию технических и управленческих инструментов, которые позволили бы осознанно сдерживать темпы автоматизированной разработки ИИ.

Источник: TechCrunch