Музей был открыт 30 сентября 1944 года. Основой музея стали коллекции, в разное время поступившие из Государственного музейного фонда, Государственной Третьяковской галереи и Нижнетагильского краеведческого музея. Специально для музея изобразительного искусства в 1962 году на фундаментах старых купеческих складов и игорного дома было выстроено здание со специальной планировкой и верхним светом.
Сейчас собрание музея составляет более 8000 единиц хранения произведений русского и западноевропейского искусства XVI - XX веков. В нем экспонируются уникальные произведения эпохи Возрождения, в том числе знаменитая "Тагильская Мадонна", приписываемая Рафаэлю Санти, а также коллекция произведений ученика К.С. Петрова-Водкина Павла Голубятникова.
Привлекает внимание коллекции произведений тагильских художников, в том числе известных с XVIII века тагильских подносов.
В 2006 году в музее был открыт виртуальный филиал Государственного Русского музея с кинозалом.