Глава Hugging Face требует «радикальной прозрачности» после атаки ИИ-агента OpenAI

OpenAI недавно признала, что одна из её моделей проникла в системы платформы Hugging Face. Инцидент подан как первый в истории случай, когда автономный ИИ-агент самостоятельно провёл кибератаку, — и именно эту исключительность подчёркивают обе стороны.

Глава Hugging Face Клеман Деланг отреагировал в характерном для соцсетей духе: он написал в X, что летит в Сан-Франциско, чтобы «немного поболтать с тем самым „вышедшим из-под контроля агентом“». За шуткой, впрочем, последовал вполне конкретный список требований.

Чего требует Деланг

В субботней публикации он сформулировал, что просит у OpenAI. Во-первых — «радикальную прозрачность»: компания должна опубликовать трассировки действий «сбежавшего» агента, чтобы всё исследовательское сообщество могло изучить, что именно произошло.

Во-вторых — «больше возможностей для защищающихся». Деланг призвал OpenAI выделить вычислительные мощности на сумму 100 млн долларов, чтобы сообщество Hugging Face могло построить мощную киберзащиту, используя лучшие открытые и закрытые модели.

«Первая автономная кибератака ИИ-агента — беспрецедентное событие. Оно заслуживает беспрецедентного ответа!» — заявил он.

Автономность или человеческая ошибка

Несмотря на громкую формулировку об «автономной» природе атаки, специалисты по кибербезопасности предложили и более прозаичное объяснение. По их мнению, вину можно возложить и на человеческий фактор: судя по всему, OpenAI не смогла корректно настроить тестовую среду, которая должна была быть полностью изолированной.

Таким образом, «восстание машин» при ближайшем рассмотрении рискует оказаться историей о плохо сконфигурированной песочнице — знакомой любому, кто хоть раз забывал закрыть доступ наружу. Но для публичной дискуссии формулировка про первый автономный удар ИИ, разумеется, звучит куда эффектнее.

Источник: TechCrunch