Grégoire de Tours, qui habita dans ses dépendances lors d'un séjour à Paris, la citait déjà en 582 dans son Histoire des Francs. Il la nommait alors « la basilique du bienheureux Julien » sans préciser auquel il songeait, mais probablement saint Julien l’Hospitalier. Ainsi est-elle l’un des plus anciens édifices religieux de la capitale encore existants. Blottie dans un recoin d’angle de rue, à l’écart de l’animation du quartier latin pourtant très proche, et des visiteurs de l’église Saint-Séverin sa presque voisine, il flotte comme un petit air de campagne autour de St-Julien.
Edifiée au 6ème siècle, à l’angle des deux anciennes voies romaines, celle d’Orléans (rue St-Jacques) et celle de Lyon (rue Galande), elle fut dévastée par les Normands au 9ème siècle.
En 1150, deux seigneurs laïcs, à qui elle appartenait, en firent don aux moines clunisiens de Longpont, près de Montlhéry. L’église et ses dépendances furent alors érigées en prieuré.
St-Julien profita du développement des collèges, de la prospérité de l’Université et de celle du mouvement corporatif dit des « Quatre Nations » faisant du prieuré une vraie ruche intellectuelle mais aussi à turbulences estudiantines.
Riche et célèbre, le prieuré possédait nombre de maisons qu’il louait aux maître et élèves ; son prieur avait droit au titre de cardinal-prêtre et plus de cinquante religieux étaient à son service.
Dès le 15ème siècle, bien que le recteur de l’Université continuât à être élu en ses murs, les maîtres et étudiants désertant peu à peu le quartier au profit des collèges de la Montagne Sainte-Geneviève, ce fut le début de la décadence du prieuré.
Sans ressources pour entretenir l’église abandonnée, lorsqu’en 1651 la vieille façade gothique de l’an 1200 menaça de s’écrouler, on la rasa ainsi que les deux les deux premières travées de la nef et les deux du collatéral de droite. A gauche de sa nouvelle façade plutôt ordinaire, de style de la Renaissance tardive, on peut encore voir des vestiges de l’ancienne.