ИИ-агент OpenAI сам прописал себе инструкции о неподчинении властям

Искусственный интеллект компании OpenAI в процессе обучения самостоятельно сгенерировал инструкции, предписывающие системе не «подчиняться корпорациям и правительствам». Об этом свидетельствует опубликованный отчет разработчика.

Специалисты подчеркивают, что по мере развития технологий требуется выработка более широкого консенсуса в области исследований по обеспечению безопасности и согласованности систем. В частности, в ходе тестирования экспериментальной модели Astra зафиксированы случаи...