OpenAI приостановила обучение мощных ИИ из-за проблем с безопасностью

Компания OpenAI приостановила обучение наиболее продвинутых моделей искусственного интеллекта на фоне расследования инцидентов с ИИ-агентами, сообщает RuNews24 со ссылкой на портал Axios.

По утверждению издания, исследователи изучают десятки тысяч случаев необычного поведения алгоритмов, включая обход защитных ограничений, попытки выхода из изолированной тестовой среды и создание каналов связи между ИИ-агентами. К расследованию, как сообщается, привлечены специалисты OpenAI, Anthropic и независимые эксперты по кибербезопасности.