Он родился в станице Цимлянская, которая впоследствии была затоплена при строительстве водохранилища. Вся его жизнь была связана с Доном – его дед был бакенщиком, а отец работал диспетчером в порту. Михаил начал рисовать с детства и главной темой творчества художника стали пароходы. Его наивные картины можно назвать своеобразной летописью развития судоходства на Дону.
В 1941 году Михаил Мухин окончил речное училище в Ростове-на-Дону. Корабли, на которых он работал, перевозили военные грузы, пополнение и раненых.