Le 3 juin 1701, l’abbesse Catherine III de la Rochefoucauld fit construire, en 1686, un bâtiment abbatial. Dans le chœur des religieuses, elle fit d'abord ériger une sorte de cénotaphe à la mémoire des deux fondateurs.
Sur ce monument elle fixa ensuite une plaque de marbre noir qui retraçait la vie des deux personnages et annonçait qu'ils sont réunis en ce tombeau. L’annonce était prématurée car les cercueils restèrent dans le caveau. La copie, en marbre blanc, de cette plaque se trouve aujourd'hui sur leur tombeau au Père-Lachaise.
Le 3 mars 1768, la grande-prieure, Geneviève du Passage, fit procéder à une vérification des restes dans le caveau. L’ouverture des cercueils laissa apparaître
- pour Abélard :
Différentes pièces osseuses tant du crâne que de la face, de la poitrine, du bassin de la colonne épinière que des extrémités tant supérieures qu'inférieures.
- pour Héloïse :
Le crâne entier, les os de la poitrine divisés en différentes parties, ceux du bassin aussi séparés, ainsi que les extrémités tant supérieures qu'inférieures.
Le 6 juin 1780, Marie-Charlotte de Roucy, dernière abbesse du Paraclet, réalisa le projet qu'avait eu Catherine III en 1701 : réunir les ossements dans le tombeau vide du chœur des religieuses. Les restes furent déposés dans un cercueil en plomb à deux compartiments : longueur 1,30 m, largeur 0.32 m, hauteur 0.24 m.
9 novembre 1792. La Révolution chassa les religieuses du monastère au mois d'octobre 1792. Les restes Héloïse et d'Abélard posaient un problème aux autorités civiles de Nogent-sur-Seine chargées d'abord de vendre le mobilier, puis l'abbaye elle-même.
Dans le même temps, l'Assemblée Nationale prescrivait de conserver les dépouilles des hommes célèbres qui appartenaient à la Nation. Les deux amants se trouvèrent englobés dans cette prescription.
Les autorités du District décidèrent de les exhumer et récupérèrent le cercueil de plomb qu’elles transportèrent d'abord "au lieu des séances" du Directoire de Nogent en attendant un endroit plus décent. Le 7 novembre on procéda à un transfert dans l'église Saint-Laurent de Nogent-sur-Seine et, le 9, une cérémonie fut organisée pour une nouvelle inhumation solennelle et officielle dans la chapelle Saint-Léger de cette même église. Une plaque de cuivre fut gravée pour relater cet événement et scellée sur le tombeau.
Le 13 février 1800, Alexandre Lenoir obtint de Lucien Bonaparte l'autorisation de transporter à Paris, dans son Musée des Monuments français, ce qui restait du mausolée d'Héloïse et Abélard en provenance du Paraclet et le cénotaphe d'Abélard en provenance de Saint-Marcel.
Le 23 avril 1800, eut lieu l'exhumation à la chapelle Saint-Léger du cercueil en deux parties. Le retour à Paris se fait dans un cabriolet de louage. Rien n'étant prêt pour recevoir les ossements, ceux-ci restèrent provisoirement dans la caisse de bois non scellée achetée à Nogent. Le monument que Lenoir rêvait d'ériger n'était pour le moment qu'en l'état de projet. Il fallait réunir les matériaux.
4 mai 1801. Le cénotaphe d'Abélard du prieuré de Saint-Marcel-lès-Chalon avait été acheté par un médecin. Après plusieurs mois de négociations, Alexandre Lenoir ramena à Paris son précieux chargement se composant de quatre pierres et du gisant, représentant Abélard en moine, de l'ancien tombeau.
S'il avait bien récupéré une statue d'Abélard, il n'avait pas son pendant pour Héloïse. Il prit dans sa réserve une statue de femme provenant du collège de Beauvais (Dormans), et fit ajouter une tête par le sculpteur Beauvallet.
Dans le jardin du musée, Alexandre Lenoir commença alors à construire le mausolée qu'il projetait. Il lui fallut toutes les ressources de son imagination romantique pour bâtir ce monument à partir d'éléments aussi disparates.
La foule des visiteurs se pressa autour de cette chapelle sépulcrale et, le 27 avril 1807, le mausolée était terminé. A la nuit tombée, l'impératrice Joséphine y fit une promenade romantique aux flambeaux. Le succès était total.