Malgré les précautions prises lors de la construction et signalées en 1903 par Alfred Picard, commissaire général de l'Exposition universelle de 1900, des désordres structurels apparaissent très tôt sur l'édifice. Avant la Seconde Guerre mondiale, plusieurs interventions en sous-œuvre sont effectuées mais par la suite, les travaux du métro, des voies sur berge et du RER modifient le niveau de la nappe phréatique parisienne et exposent à l'air libre les sommets des pieux en bois qui soutenaient l'édifice. Hors de l'eau, ces pieux pourrissent et entrainent un affaissement du bâtiment. Ainsi la partie sud de la Nef, la plus touchée, connaît jusqu'à 15 centimètres de tassement.

Le plus urgent consiste à asseoir le bâtiment sur des fondations profondes, qui doivent reposer sur le sol dur, situé entre 15 et 20 mètres de profondeur. Pour cela, deux techniques sont utilisées. Dans la partie sud, la plus altérée en raison du pourrissement des pieux de chêne qui la soutenait, des parois moulées sont réalisées. Quant aux fondations dépourvues de pieux, elles sont confortées par 1 850 colonnes de jet grouting, injection d'un coulis de ciment à très haute pression. L'opération s'est déroulée de novembre 2001 à août 2004.