L'origen del Museu Frederic Marès es remunta al 1946. Dos anys abans, el 1944, havia tingut lloc la primera presentació pública de la col·lecció de Frederic Marès, a la seu de l'actual Arxiu Històric de la Ciutat, en el cor de la Barcelona romana i gòtica: escultura medieval i barroca, rellotges, reliquiaris, llibres incunables i tot un seguit d'objectes que conservava al seu estudi del carrer de Mallorca. Aleshores ja va anunciar la voluntat d'oferir la col·lecció a la ciutat de Barcelona. En aquell moment, Frederic Marès tenia cinquanta-un anys. Remarquem això perquè va morir gairebé als noranta-nou anys, la qual cosa li va permetre fer créixer notablement les seves col·leccions. Tan sols dos anys més tard, el 1948, va quedar oberta la que podem considerar com la primera sala del Museu, instal·lada al primer pis d'un edifici del carrer dels Comtes.
A l'edat mitjana, en aquest edifici, conjuntament amb altres de propers, hi havia hagut algunes dependències del Palau Reial Major dels comtes de Barcelona. Als anys quaranta, l'Ajuntament va decidir instal·lar-hi el Museu per integrar-lo així en el que des d'aleshores es va anomenar Barri Gòtic, el nucli medieval de la ciutat, situat al voltant de la catedral, que des del 1929 -any de l'Exposició Internacional- es va començar a recuperar com a centre històric de la ciutat.
A partir del moment en què el Museu ja no es pot engrandir més per manca d'espai, Marès inicia una política que podríem anomenar "descentralitzadora". Fa donacions a altres museus o bé en crea de nous. Entre les donacions, cal considerar les que fa al Museu de l'Empordà de Figueres, el Museu d'Història de Sabadell i el Museo de la Real Academia de Bellas Artes de San Fernando de Madrid. I, quant a la creació de nous centres museogràfics, s'ha d'esmentar el Museu Frederic Marès de Montblanc, el Museu d'Arenys de Mar i el Museu del Llibre Frederic Marès, a la Biblioteca de Catalunya de Barcelona.
El 1997, s'elaborà des del mateix Museu un projecte museogràfic per adequar-lo a les necessitats del segle XXI. Les obres de la primera fase de remodelatge, que afectaren la planta baixa destinada a l'escultura i comportaren l'obertura d'una sala d'exposicions temporals fins aleshores inexistent, s'inauguraren l'abril del 1999. Durant la segona fase, finalitzada el 2001, es va remodelar la sala d'escultura en pedra situada a la planta soterrània.
En la tercera fase d'aquest projecte museogràfic finalitzat l'any 2011, es remodelà la planta primera tot completant la presentació de les col·leccions d'escultura i els principals elements arquitectònics de connexió entre les diferents plantes del Museu.