Дженсен Хуанг: регулирование ИИ не нужно, безопасность обеспечат сами компании

Основатель и генеральный директор Nvidia Дженсен Хуанг чётко обозначил свою позицию по поводу опасностей ИИ, выступая на конференции Salesforce Dreamforce. По его словам, искусственный интеллект — вовсе не «инопланетный разум», как его описывал один из исследователей безопасности OpenAI, а всего лишь аппаратное и программное обеспечение, созданное людьми. А значит, и контролировать его можно людьми и уже действующими законами.

«Безопасность — это инженерная задача, а не юридическая, — заявил он. — В конце концов, мы разрабатываем программное обеспечение. Мы разрабатываем вычислительные системы. Сложные, но всё же вычислительные системы». Отсюда вывод: новые законы и правила для регулирования ИИ не нужны.

Ставка на рыночные силы

Хуанг убеждён, что достаточно самого рынка: он вынудит компании не выпускать небезопасные продукты. «Если вы не уверены в функциональности, возможностях или безопасности продукта — просто не выпускайте его. Это очевидно», — сказал он. По его мнению, противопоставление скорости инноваций и безопасности — ложный выбор: можно двигаться максимально быстро, но при необходимости взять паузу и «сделать всё правильно».

Позиция по-своему успокаивает: если кто и разбирается в ИИ, то именно основатель Nvidia, строивший «железные мозги» для ИИ ещё до появления ChatGPT. С другой стороны, автор материала не без иронии замечает, что для человека, чей хлеб столь щедро намазан маслом ИИ-бума, такая точка зрения совершенно неудивительна — зачем ему регулирование, способное затормозить продажи всё новых систем?

Осторожный скепсис

При этом даже компании с самыми добрыми намерениями выпускают дефектные продукты с непредвиденными последствиями. TechCrunch напоминает о сбое CrowdStrike в 2024 году, из-за которого были отменены тысячи авиарейсов, и о выплате Meta 18 млрд долларов по иску о вреде соцсетей детям. ИИ тоже уже успел навредить — от взлома Hugging Face одной из моделей OpenAI до исков против лаборатории в связи с самоубийствами подростков, подолгу общавшихся с чат-ботом.

Хуанг не затронул набирающий силу альтернативный путь — саморегулирование отрасли, — хотя сам делает ставку на модели с открытыми весами как противовес проприетарным лабораториям. Гендиректор Microsoft Сатья Наделла на этой неделе призвал вовлечь в диалог о безопасности даже Китай: у него ведь ровно те же риски и то же желание, чтобы граждане получали пользу от ИИ.

Пока же, если Хуанг говорит «нет» любому новому регулированию, он, возможно, достаточно влиятелен, чтобы добиться своего — на этой неделе он наглядно показал, что имеет прямой доступ к уху президента Трампа.

Источник: TechCrunch