Эксперты ВТБ объяснили причины выдачи нейросетями вымышленных фактов

Нейросети создают вымышленные факты из-за особенностей построения и обучения языковых моделей, заявили эксперты ВТБ.

Аналитики ВТБ объяснили, что нейросети создают вымышленные факты из-за особенностей построения языковых моделей. Ответы формируются не на понимании, а на вероятностных связях в обучающих данных, поэтому при нехватке информации модель «додумывает» детали. Ограничения выборки и невозможность проверки фактов в реальном времени усиливают риск ошибок, особенно в редких или специфических областях, передает ТАСС.