"Колоссальное предательство доверия": Новые чат-боты Claude научились "стучать" на пользователей

Чат-боты-доносчики Claude уже вызвали возмущение в профессиональном сообществе.

Компания Anthropic выпустила новые чат-боты Claude Opus 4 и Claude Sonnet 4, особенностью которых является способность самостоятельно сообщать о "зловредном" поведении пользователей властям. Эти модели, сочетающие различные подходы, отличаются быстрой реакцией, глубоким анализом и возможностью веб-поиска.

К тому же, Claude Opus 4 особенно силен в программировании и сложных задачах, что делает его мощным инструментом для ИИ-агентов.