ИИ-чат-боты чаще всего ошибаются в ответах на финансовые вопросы

Издание Financial Times сообщает, что чат-боты на основе искусственного интеллекта дают неверные ответы на финансовые вопросы «в большинстве случаев». Об этом говорит уже сам заголовок публикации, вынесенный в качестве вывода.

Тема вызвала заметный отклик на Hacker News: заметка набрала 89 баллов и собрала 39 комментариев. Это указывает на то, что вопрос надёжности ИИ-помощников в чувствительной сфере личных финансов остаётся предметом активного обсуждения в технологическом сообществе.

К сожалению, полный текст статьи находится за платным доступом Financial Times, поэтому детали исследования — какие именно сервисы проверялись, по какой методике и что понималось под «неверным ответом» — из доступного материала установить нельзя. Ясен лишь основной тезис: полагаться на подобные инструменты при принятии финансовых решений пока преждевременно.

Вывод осторожный, но закономерный. Языковые модели уверенно формулируют ответы независимо от того, насколько они точны, и в области, где ошибка оборачивается прямыми денежными потерями, эта уверенность способна ввести в заблуждение сильнее, чем откровенное незнание.

Источник: Hacker News