Компания Anthropic остановила попытки разработать биооружие через нейросети

Американский разработчик искусственного интеллекта Anthropic заблокировал пять попыток использования своих моделей для создания опасных вирусов.

Об инцидентах стало известно из отчета об оценке угроз, сообщает издание Axios. С декабря по август злоумышленники пытались применить языковую модель Claude для содействия в исследованиях биологического оружия.

В двух случаях пользователи запрашивали у нейросети информацию для усиления патогенов в лабораторных условиях. Представители компании отметили...