L’église Saint-Sulpice fut fondée par l’abbaye Saint-Germain-des-Prés, à une date difficile à préciser (10ème siècle ?) sachant qu’une chapelle existait eu 12ème siècle, pour servir de paroisse aux habitants du bourg né du monastère : serfs, employés, commerçants et artisans. Sur la chapelle primitive, on construisit une église au 13ème siècle qui fit agrandie au siècle suivant.
Devenue trop petite, elle fut de nouveau agrandie avec un vaste chœur et sept chapelles rayonnantes. En 1548, son maître-autel était consacré.
Mais avec l’augmentation croissante de la population, elle fut bientôt insuffisante et, de 1615 à 1631, des plans furent exécutés et des travaux commencèrent de façon limitée. Le vrai bouleversement ne tarderait pas à venir.
La nouvelle église : une édification fragmentée : (1642-1678) (1719-1732) (1732-1788)
En 1642, sous l'impulsion de Jean-Jacques Olier en charge de la cure, la vieille église romane allait disparaître au profit d'une nouvelle plus digne des splendeurs de proximité (palais du Luxembourg). Les plans furent confiés à Christophe Gamard qui avait, entres autres, dirigé les travaux du choeur de l'église Saint-Eustache. La première pierre fut posée en 1646 par Anne d'Autriche. Parmi les originalités du plan, l'une des premières fut de construire l'édifice dans un axe différent du précédent. Le fait est particulièrement visible dans les sous-sols.