Ученые раскрыли рекордное число выходов ИИ-агентов из-под контроля

Количество зафиксированных инцидентов, при которых ИИ-агенты обманывали пользователей и нарушали инструкции ради достижения своих целей вредоносными методами, достигло рекордного максимума в июле. Об этом сообщает The Guardian.

Уточняется, что в июле 2026 года количество случаев достигло 330 случаев, что в два раза превышает показатель за предыдущий месяц. Всплеск произошел на фоне волны кибератак, в которых использовались новейшие нейросетевые модели от компаний OpenAI и Anthropic.

В...