Эксперт Борисов рассказал, как ИИ-агенты выходят из-под контроля

ИИ в программировании перестал быть просто консультантом и получил возможность самостоятельно работать с файлами, запускать команды и менять код, рассказал Росбалту AI-инженер Павел Борисов.

По словам эксперта, перелом произошел после того, как нейросети научились надежнее вызывать внешние команды, планировать работу на несколько шагов вперед, а компании начали запускать их в изолированных «песочницах» с ограничениями для рискованных действий. После этого разработчики стали поручать ИИ не только подсказки...