Anthropic призвала всю отрасль замедлить разработку ИИ из-за опасности для людей

Компания Anthropic предупредила о рисках стремительного развития искусственного интеллекта и призвала к более осторожному подходу в создании передовых ИИ-систем. В опубликованном исследовании Anthropic Institute говорится, что современные модели уже начинают ускорять разработку новых ИИ, что в перспективе может привести к потере человеком контроля над технологией.

В компании обратили внимание на сценарий так называемого рекурсивного самосовершенствования, при котором искусственный интеллект...