Наделла призывает считать любую ИИ-модель «скомпрометированной»

Генеральный директор Microsoft Сатья Наделла опубликовал в соцсети X пространную запись, посвящённую рискам, которые несут высокоразвитые модели искусственного интеллекта, и способам этим рискам противостоять.

По мнению Наделлы, мир больше не может мириться с тем, что ИИ воспринимается как «набор вложенных чёрных ящиков», чьи советы и действия мы вольны лишь принять или отвергнуть. Он призывает выстраивать более прозрачную систему, в которой модели можно сдерживать, наблюдать за ними и получать от них «защищённые от подделки, читаемые человеком свидетельства» их работы.

Знакомый список мер и одно дополнение

Большая часть его рекомендаций совпадает с тем, что уже звучало от других представителей отрасли: своевременное раскрытие инцидентов, независимые аудиты, проверяемые данные и сдерживание. Именно в последнем пункте Наделла идёт чуть дальше многих коллег.

«Мы должны исходить из того, что модель скомпрометирована, и сдерживать её с самого начала, — пишет он. — Представьте это как аварийный тормоз. Уполномоченный человек всегда должен иметь возможность приостановить или выключить модель прямо посреди выполнения задачи. Для более продвинутых моделей понадобятся более продвинутые технологии сдерживания, которые нам нужно стандартизировать».

Любопытная деталь: на протяжении всей записи Наделла упорно называет ИИ «сверхразумом» — формулировка, которая едва ли добавляет его тезисам сдержанности.

Источник: The Verge