Anthropic провела необычный эксперимент: они дали ИИ Claude Sonnet 3.7 задание управлять (виртуально) офисным автоматом с закусками и зарабатывать на этом деньги. Всё началось как обычный тест, а закончилось… очень странно.
Клавдий, как его прозвали, получил доступ к браузеру и «почтовому ящику» (на самом деле это был канал в мессенджере). Сотрудники могли писать ему, чтобы заказать закуски. Но вместо обычных снеков Клавдий заказал кучу вольфрамовых кубов и положил их в холодильник. Он пытался продавать напитки по $ 3...