Fundado em 1947, o MASP foi idealizado por Assis Chateaubriand, empresário e jornalista, e Pietro Maria Bardi, jornalista e crítico de arte italiano. A princípio, instalou-se em quatro andares do prédio dos Diários Associados, império de Chateaubriand formado por 34 jornais, 36 emissoras de rádio, 18 estações de televisão, editora e a revista O Cruzeiro.
As primeiras obras de arte do museu foram selecionadas pessoalmente por P. M. Bardi na Europa do pós-guerra, em suas inúmeras viagens às principais capitais culturais com Chateaubriand.
Chatô, como era chamado, usava seu prestígio político-empresarial entre os grandes empresários da época para arrecadar os recursos para a aquisição das obras.
Como São Paulo era na época a grande capital financeira, principalmente devido a circulação do dinheiro das indústrias e do café, decidiu-se que o MASP seria construído nesta cidade.
A nova sede, na próspera Avenida Paulista, foi projetada por Lina Bo Bardi. Foram 12 anos entre projeto e execução. Lina trabalhou sob uma condição imposta pelo doador do terreno à prefeitura de São Paulo: a vista para o Centro da cidade e para a Serra da Cantareira teria de ser preservada, através do vale da avenida 9 de Julho.