Канадский депутат зачитал вслух подсказку нейросети во время речи в парламенте

Депутат от Прогрессивно-консервативной партии Билл Оливер, член законодательного собрания канадской провинции Нью-Брансуик, выступил на минувшем месяце с речью, посвящённой рискам создания правозащитных ведомств. Он справедливо заметил, что граждане нередко возлагают на такие структуры надежды, превосходящие их реальные полномочия.

Проблема в том, что следом Оливер зачитал вслух и служебную реплику, явно адресованную вовсе не парламенту, а ему самому: «Вот более естественный, плавный вариант этого фрагмента, который читается как законодательная речь, а не как набор коротких тезисов». Всякий, кто хоть раз пользовался языковой моделью, узнает характерный оборот: так нейросеть предлагает альтернативный стиль в ответ на запрос. Депутат, судя по всему, не осознал в реальном времени, что именно произносит.

От незамеченного казуса к национальной новости

В момент выступления странная фраза прошла почти незаметно. Однако на этой неделе видеозапись начала расходиться по Reddit и Threads, а затем сюжет подхватили и крупные канадские СМИ — вплоть до общественного вещателя CBC и газеты The Toronto Star. Последняя усмотрела в эпизоде симптом «растущего раскола в обществе: между элитами, охотно передоверяющими свои обязанности Боргу, и массами, которых это возмущает».

Оливер, разумеется, далеко не первый политик, публично зачитывающий заготовленный кем-то другим текст, и уж точно не первый, кто прибегает к помощи нейросети при подготовке речи. Новизна в другом: произнести откровенно машинную вставку вслух, в столь публичной обстановке и, похоже, не заметив подвоха, — это, как иронизирует Ars Technica, свежая веха в летописи неловких разоблачений использования ИИ.

Скрывать нельзя признаться

Эпизод вписывается в уже заметную тенденцию. Юристы, писатели, журналисты и учёные не раз попадали в неприятные истории, когда факт применения языковых моделей всплывал наружу — чаще всего из-за очевидно выдуманных «фактов» и галлюцинаций в текстах, выданных за написанные человеком.

Неудивительно, что многие предпочитают помалкивать: по данным прошлогоднего исследования Университета Дьюка, работники склонны скрывать использование ИИ, поскольку коллеги воспринимают такой труд как признак лени, а самого автора — как легко заменимого. История канадского депутата показывает, чем оборачивается обратный подход, когда подсказку нейросети зачитывают прямо со стенограммы.

Источник: Ars Technica