Когда письмо начинает командовать ИИ: что проверить в обработке заявок

8 декабря 2025 года британский Национальный центр кибербезопасности (NCSC) опубликовал разбор подмены инструкций для языковых моделей, известной как prompt injection. Авторы объясняют риск: внешнее содержимое может повлиять на действия приложения, если оно обрабатывается вместе с управляющими указаниями. Для автоматизации заявок это вопрос о том, какие решения разрешено принимать по тексту входящего письма.

Возьмём вымышленного помощника отдела снабжения. Его задача - прочитать письмо поставщика...