El museo se inauguró ceremoniosamente en 1891. Por primera vez se acogieron la mayoría de las Colecciones Habsburgo juntas, convirtiéndose este edificio monumental en un espacio en memoria del patronazgo de los Habsburgo. Los arquitectos Gottfried Semper (1803-1879) y Karl von Hasenauer (1833-1894) diseñaron el museo siguiendo el estilo del Renacimiento italiano, vinculando el espíritu historicista con una época de especial significado para las artes y las ciencias.

Los fondos del museo, entre los mejores del mundo, abarcan desde el Antiguo Egipto, Grecia y Roma a las colecciones de Arte Medieval, Renacimiento y Barroco. En total, el museo se divide en ocho colecciones diferentes, algunas de ellas instaladas en los Palacios de Hofburg y Schönbrunn.
El área dedicada a Egipsto y a Oriente Próximo ha sido rehabilitada para mejorar sus instalaciones.