Российские ученые нашли способ отучить нейросети врать
Российские ученые нашли способ отучить нейросети врать.
Проблема нейросетей в том, что они могут выдавать недостоверную информацию. Это называют "галлюцинациями".
Для устранения таких ошибок используют специальные системы, но это не всегда эффективно, рассказали РИА Новости в университете Решетнева.
"Чтобы решить эту задачу, команда ученых проанализировала типовые сценарии "галлюцинаций" и создала их классификатор. Затем был разработан автоматизированный пайплайн стресс-тестирования...