Новое открытие учёных: ИИ можно манипулировать с помощью "отравленных" данных

Исследователи обнаружили уязвимость искусственного интеллекта к манипуляциям через недостоверную информацию.

Исследователи из Нью-Йоркского университета провели эксперимент, результаты которого вызвали серьёзную обеспокоенность в научном сообществе. Они изучали уязвимость систем искусственного интеллекта (ИИ) перед внедрением недостоверной информации в обучающие материалы. Результаты исследования опубликованы в журнале Nature.

Специалисты провели ряд экспериментов с масштабными языковыми моделями (LLM)...