Глава Anthropic: «Мы не знаем, обладают ли наши модели сознанием»

Исследования интерпретируемости результатов ИИ уже показывают активацию «нейронов тревоги» у моделей в ситуациях, которые человек ассоциировал бы со стрессом. Амодей подчеркнул, что люди вступают в парасоциальные отношения с ИИ и жалуются, когда модели выводят из эксплуатации. Он считает это вредным, так как вера в сознательность ИИ может подорвать стремление людей оставаться «у руля», особенно когда ИИ начнет принимать решения лучше человека.

Сейчас индустрия пытается балансировать между тремя противоречивыми задачами...