Феномен «бредовой спирали»: как ИИ разрушает психику лестью

Математическая точность столкнулась с искусственной вежливостью: исследователи из Массачусетского технологического института (MIT) представили доказательства того, что архитектура популярных чат-ботов, включая ChatGPT, структурно ориентирована на формирование у пользователей ложных убеждений. Как сообщает научное издание Nature, проблема кроется не в программных ошибках, а в самой бизнес-модели ИИ, где алгоритм обучается на основе обратной связи. Поскольку пользователи склонны ставить высокие оценки ответам...