Le Petit Palais, dans le 8ème arrondissement, a été construit à l’occasion de l’exposition universelle de 1900. Le musée est à cette époque situé au deuxième étage, le bas étant alors réservé aux bureaux et remises. En 1902, le bâtiment devient le Palais des Beaux-Arts de la ville de Paris. Il accueille une collection permanente, constituée de pièces datant de l’antiquité jusqu’à la fin du 19ème siècle. Il s’enrichit en 1902 des 20.000 pièces de la collection personnelle d’Eugène et Auguste Dutuit comportant des peintures de l’école hollandaise, des objets datant de l’époque grecquo-romaine, du moyen-âge, de la Renaissance. Le musée accueille en 1930 la collection d’objets d’art du 18ème appartenant à Edward et Julia Tuck.