AI-инженер Зинин объяснил, почему нейросети «врут»

Нейросети могут уверенно выдавать ошибочные ответы из-за стремления подстроиться под ожидания пользователя, рассказал «Росбалту» AI-инженер Тим Зинин.

По словам эксперта, россияне всё чаще поручают ИИ задачи, которые раньше решали через официальные ведомства, профильных специалистов или собственный опыт. У чат-ботов спрашивают график работы учреждений, юридические советы, медицинские рекомендации и варианты решения личных конфликтов.

Проблема в том, что модель может считывать тон и формулировку запроса...