El museo, un edificio diseñado y construido entre 1877 y 1881 por Martin Gropius y Heino Schmieden, se encuentra ubicado en la Stresemannstraße, en el sector de Kreuzberg. Es una de las construcciones más interesantes surgidas de la Bauakademie, la escuela de arquitectura fundad por Karl Friedrich von Schinkel en 1836, y presenta una fachada de corte renacentista italiano y un interesante claustro, centro de las exposiciones. El edificio fue seriamente dañado durante la II Guerra Mundial y reconstruido tras la misma por los arquitectos Winnetou Kampmann y Ute Weström.
Originalmente el museo fue concebido para acoger colecciones de artes decorativas, pero en la actualidad alberga exposiciones temporales de arte internacional.