Двери музея распахнулись 9 мая 1973 года, расположившись в стенах Никольского храма. В период ожесточённых сражений за Москву, во время наступления немецких войск, здание храма серьёзно пострадало от артиллерийского огня. В непосредственной близости от храма был установлен танк Т-34, символизирующий подвиг советских солдат, и зажжён Вечный Огонь, как дань памяти павшим героям. После проведения реставрационных работ в здании храма был открыт музей, посвящённый событиям Великой Отечественной войны.
Такое положение дел сохранялось до 1991 года, когда храм был возвращён религиозной общине. Музей был перемещён в новое место, в центр города, на улицу маршала Жукова. Примечательно, что танк Т-34 остался на прежнем месте, рядом с Никольской церковью, напоминая о героическом прошлом.