Le palais de l'Industrie avait été construit pour l'Exposition universelle de 1855 en s'inspirant du Crystal Palace de Londres. Comme lui, il présentait un toit de verre et de métal mais innovait par son enveloppe de maçonnerie. Construit parallèlement aux Champs-Élysées, le palais de l'Industrie accueillait des Salons artistiques et des manifestations très diverses comme le concours agricole ou le concours hippique.
La décision de le détruire pour le remplacer par le Grand Palais présente deux atouts : ce programme hardi doit contribuer au succès de l'Exposition et influer sur l'urbanisme de la capitale. C'est donc la solution retenue.
La réflexion s'oriente alors sur les affectations du futur Grand Palais. Palais des beaux-arts oblige, il devra, après l'Exposition universelle, revenir à l'État et être affecté aux Salons artistiques annuels, tandis que le Petit Palais reviendra à la Ville de Paris pour devenir le musée des Beaux-Arts de la Ville. Dépassant sa vocation artistique, le Grand Palais doit également accueillir une salle de concert (le futur salon d'honneur) et les manifestations qui se déroulaient jusque-là au palais de l'Industrie. Ainsi commence à prévaloir l'idée d'une nef, cette structure architecturale se prêtant parfaitement à ces affectations.
Telles sont quelques unes des contraintes imposées en 1896, lors du concours pour les projets de construction des deux palais. En dépit des difficultés, les candidats avoisinent les 260. Il faut dire que la prime de 15 000 francs, très élevée pour l'époque, est bien tentante.
À l'issue du vote du jury, la première prime est attribuée à Albert Louvet, la 2e à Henri Deglane et Binet, la 3e à Albert Thomas, la 4e à Charles Girault et la 5e à Tropey-Bailly.