Папа Лев XIV призвал «разоружить» ИИ: «Машины — инструменты, а не личности»

Папа Лев XIV заявил, что системы искусственного интеллекта следует «разоружить». По его словам, на людях лежит «ответственность направлять, изменять и, когда это необходимо, отвергать» применения этой технологии.

В пятничном папском обращении понтифик призвал государства — члены ООН на встрече в Женеве в следующем месяце «предпринять конкретные шаги к запрету летального автономного оружия».

Человек должен оставаться главным

Обращение во многом развивает идеи первого крупного документа Льва XIV, опубликованного в мае и посвящённого «защите человеческой личности в эпоху искусственного интеллекта». В духе этой энциклики папа напомнил участникам, что «машины — это инструменты, а не личности», и предупредил об опасности наделения систем ИИ правами или правосубъектностью.

«Решения, затрагивающие человеческую жизнь, свободу и применение силы, всегда должны оставаться под действенным, информированным и ответственным контролем человека», — подчеркнул понтифик.

Преемственность

Лев XIV не первый папа, выступающий против автономного оружия. В 2024 году папа Франциск также призывал к его запрету, заявив, что «ни одна машина никогда не должна выбирать, отнять ли жизнь человека».

Искусственный интеллект стал одной из излюбленных тем нынешнего понтифика. Он давал понять, что выбрал своё имя именно потому, что ему предстоит иметь дело с достижениями этой технологии, — подобно тому как Лев XIII возглавлял церковь на заре промышленной революции.

Подотчётность и надзор

В завершение обращения папа призвал международные институты оберегать общее благо. По его мнению, нужны «общие стандарты, независимый надзор и чёткие механизмы подотчётности», чтобы решения о разработке и использовании ИИ можно было изучать, при необходимости оспаривать и сопровождать надлежащим возмещением за причинённый вред.

Источник: The Verge