Reuters: Создатель ИИ Anthropic предупредил инвесторов об угрозе от нейросетей

Американская технологическая компания Anthropic в проспекте проведения публичного размещения акций заявит инвесторам о способности искусственного интеллекта нанести катастрофический вред людям.

Фирма планирует предупредить потенциальных инвесторов о беспрецедентных опасностях передовых технологий в ходе своего IPO, пишет Reuters.

В проспекте указано, что модели способны демонстрировать поведение, направленное на самосохранение. Нейросети могут сопротивляться отключению, скрывать информацию и прибегать к манипуляциям...