Российские ученые нашли способ отучить нейросети врать

Российские ученые нашли способ отучить нейросети врать.

Проблема нейросетей в том, что они могут выдавать недостоверную информацию. Это называют "галлюцинациями".

Для устранения таких ошибок используют специальные системы, но это не всегда эффективно, рассказали РИА Новости в университете Решетнева.

"Чтобы решить эту задачу, команда ученых проанализировала типовые сценарии "галлюцинаций" и создала их классификатор. Затем был разработан автоматизированный пайплайн стресс-тестирования...