Anthropic захотела открыть «черный ящик» ИИ-моделей к 2027 году

Генеральный директор Anthropic Дарио Амодеи заявил, что его компания намерена к 2027 году научиться выявлять большинство проблем в работе передовых моделей искусственного интеллекта (ИИ), сообщает TechCrunch. В эссе «Срочность интерпретируемости» Амодеи подчеркнул, что современные ИИ-системы — это «чёрный ящик», внутренние процессы которого остаются загадкой даже для разработчиков.

Интерпретируемость, то есть способность понимать, как ИИ принимает решения, становится критически важной,...