Посетители музея являются одновременно гостями дворца Алфераки, который имеет уникальный архитектурный декор. Здание привлекает внимание портиком с четырьмя коринфскими колоннами, а также пышными лепными украшениями в стиле барокко. Оно было построено по проекту Штакеншнейдера. Дворец некогда принадлежал семье Алфераки, которая относилась к диаспоре греческих поселенцев, обосновавшихся на берегах Чёрного и Азовского морей в период правления Екатерины II. Основателем музея считается А.П. Чехов, при участии которого появилась коллекция художественного отдела. В конце прошлого столетия были проведены реставрационные работы, позволившие воссоздать изначальный облик дворца.