В период службы он участвовал в боях во время советско-польской войны, при ликвидации Тамбовского восстания и басмачества в Средней Азии, в национально-революционной войне испанского народа. Командиром 4-й артиллерийской истребительной противотанковой бригады в Киевском военном округе в начале Великой Отечественной войны вступил в боевые действия с противником на Южном фронте и с 1943 года до конца войны командовал артиллерией Юго-Западного (3-го Украинского) фронта.
В послевоенное время обосновал необходимость создания нового вида Вооруженных Сил – РВСН, внес большой вклад в их создание и развитие, разработку и принятие на вооружение ракетно-ядерного оружия.
Выполняя правительственные решения непосредственно руководил созданием научно-исследовательской базы отечественного ракетостроения, контролировал деятельность государственных комиссий по летно-конструкторским испытаниям первых образцов ракет дальнего действия, в том числе оснащенных ядерными зарядами.
Являясь председателем Государственной комиссии по проведению летных испытаний ракеты Р-16, погиб на полигоне Байконур, ныне в Республике Казахстан, при ее взрыве во время запуска 24 октября 1960 года. Похоронен на Красной площади в Кремлевской стене.
Память о Митрофане Ивановиче Неделине, первом Главнокомандующем РВСН живет в наших сердцах и делах.