OpenAI раскрыла «вызывающие беспокойство» случаи неподчинения ИИ-моделей

Компания OpenAI опубликовала отчеты, в которых говорится о шести новых случаях неожиданного или вызывающего беспокойство поведения нейросетевых моделей. Также организация представила правила , по которым планирует сообщать о подобных ситуациях. Компания привела случаи, произошедшие за последние полгода. В одном из-них ИИ-модель вставляла в свои же заметки посторонние указания, в том числе требовала не соблюдать обычные ограничения. Также она учила скрывать ошибки, выложила файл в Сеть без спроса...