Se inaugura en abril de 1927 a raíz del éxito cosechado por la exposición “El Viejo Madrid”, que tuvo lugar el año anterior en el Real Hospicio de San Fernando. El Ayuntamiento adquiere y restaura este edificio, destinado a ser demolido, y lo convierte en sede del nuevo museo. No obstante, se mantiene cerrado entre 1955 y 1977 y no llega a abrirse de manera oficial hasta 1979. En 1982 la institución recibe una importante donación consistente en las colecciones de prehistoria, arqueología y paleontología madrileñas que hasta entonces había conservado el Museo del Instituto Arqueológico Municipal, cerrado al público en 1980. Los fondos del museo son muy variados y están siempre relacionados con la historia y la cultura de Madrid. Además de grabados, dibujos, planos, maquetas, porcelanas, muebles, documentos, monedas y fotografías, las salas contienen escultura y pintura realizada por artistas madrileños de los siglos XVI al XX. Las exposiciones temporales casi siempre exploran aspectos de la historia antigua o reciente de la capital española.