El Museo de la Semana Santa ocupa la mayor parte del edificio del antiguo Hospital de San Julián que fue edificado en 1699 por la Hermandad de la Santa Caridad de Cristo, vinculada a la homónima sevillana que fundase Miguel de Mañara. El edificio cuenta con dos pabellones centrados cada uno sobre su correspondiente patio y una iglesia cuya única nave se corresponde con la parte más ancha del edificio y cuya fachada da a la calle Nosquera.
El Museo de la Semana Santa se encuentra instalado en torno al patio principal, en cuyo centro se encuentra una fuente rematada por una cruz arbórea símbolo de la citada Hermandad de la Caridad, incorporando además la propia iglesia del San Julián.
Cuenta además con una Sala de Exposiciones, con Sala de Audiovisuales y con el propio Archivo de la Agrupación como centro de documentación.