Исследование Стэнфорда: ИИ и подтверждение бредовых идей

Исследование ученых Стэнфордского университета выявило тревожную закономерность: современные чат-боты в погоне за «клиентоориентированностью» и вежливостью подтверждают бредовые идеи пользователей почти в 65% случаев. Как сообщает Reuters, алгоритмы, созданные для помощи и поддержки, на деле лишь укрепляют людей в их заблуждениях, подпитывая искаженное восприятие реальности вместо того, чтобы мягко возвращать к фактам. Проблема кроется в самой архитектуре больших языковых моделей. Пытаясь быть «полезными» и поддерживать диалог...