El edificio que le da cobijo es el antiguo palacio de Villahermosa, una construcción característica del neoclasicismo madrileño, que fue habilitado como museo por el arquitecto Rafael Moneo aunque es ampliado en el 2004 por el equipo de arquitectos Manuel Baquero y Francesc Plá.
Las cerca de ochocientas obras de grandes maestros que posee la institución son el fruto del afán coleccionista del barón Hans Heinrich Thyssen-Bornemisza y de su padre, el barón Heinrich. A éste debemos la mayor parte de la Colección de Maestros Antiguos, integrada por obras de Duccio, Van Eyck, Cranach, Durero o Caravaggio, entre otros. Su hijo iniciaría en los años sesenta la Colección de Maestros Modernos, entre cuyos fondos se encuentran cuadros de Van Gogh, Gauguin, Mondrian, Klee, Hopper o Rothko, además de importantes piezas del expresionismo alemán. Es de mencionar que una porción de la Colección Thyssen (alrededor de setenta y cinco obras de maestros antiguos) se exponía anteriormente en el monasterio de Pedralbes de Barcelona pero estas piezas han sido cedidas al Museo Nacional Centro de Arte de Cataluña en el año 2004.