L'Ajuntament de Barcelona, recollint la voluntat de Marès, acordà crear el Museu i emplaçar-lo al Barri Gòtic. El 1946 se n'obria la primera sala i el 1948 s'inaugurava el centre oficialment.
El Museu es disposà aprofitant una sèrie d'edificis que ocupaven una part dels espais del que havia estat el Palau Reial Major, seu dels comtes de Barcelona i reis de la corona catalanoaragonesa a l'època medieval. La restauració en clau medieval d'algunes de les dependències del nou centre museogràfic, coincidint amb les campanyes de rehabilitació del Barri Gòtic, dotaren les col·leccions d'un entorn particular.
Actualment s'accedeix al Museu pel pati, el jardí de l'esmentat Palau Reial Major, des de la plaça de Sant Iu, al costat de la catedral.
Un cop obert el Museu, Frederic Marès no abandona la passió per col·leccionar i continua adquirint peces que li permeten augmentar i arrodonir col·leccions ja exposades, o bé iniciar-ne de noves. Aquest fet, juntament amb les donacions de particulars o d'institucions públiques o privades, obliga a dur a terme diverses ampliacions de l'edifici.
A les acaballes del 1948 va tenir lloc la inauguració oficial de quatre sales que ocupaven el primer edifici, al qual s'entrava pel carrer dels Comtes de Barcelona. Les obres d'ampliació i condicionament van continuar fins al 1970, any en què el Museu adquireix el volum arquitectònic actual.
