El Ayuntamiento de Barcelona, recogiendo la voluntad de Marès, acordó crear el museo y emplazarlo en el Barrio Gótico. En 1946 se abría la primera sala, y en 1948 se inauguraba el centro oficialmente.
El museo se dispuso aprovechando una serie de edificios que ocupaban una parte de los espacios de lo que había sido el Palacio Real Mayor, sede de los Condes de Barcelona y reyes de la Corona catalano-aragonesa en la época medieval. La restauración en clave medieval de algunas de las dependencias del nuevo centro museográfico, coincidiendo con las campañas de rehabilitación del Barrio Gótico, dotaron las colecciones de un entorno particular.
Actualmente se accede al museo por el patio, o jardín del mencionado Palacio Real Mayor, desde la plaza de Sant Iu, al lado de la catedral.
Una vez abierto el museo, Frederic Marès no abandona su pasión por coleccionar y continúa adquiriendo piezas, que le permiten aumentar y redondear colecciones ya expuestas o bien iniciar nuevas. Este hecho, junto con las donaciones de particulares o de instituciones públicas o privadas, obliga a llevar a cabo diversas ampliaciones del edificio.
A finales de 1948 tuvo lugar la inauguración oficial de cuatro salas que ocupaban el primer edificio, al que se entraba por la calle Comtes de Barcelona. Las obras de ampliación y acondicionamiento continuaron hasta 1970, año en el que el museo adquiere el volumen arquitectónico actual.
