Mais c’est à Paris, qu’il avait regagné avec sa mère, qu’il se passionna pour la littérature et publia ses premiers vers en 1862 dans une petite revue.
C’était l’époque du déclin du romantisme et Heredia rejoignit les écrivains de la jeune école parnassienne : Sully-Prudhomme, dont il était déjà l’ami, Catulle Mendès et surtout Leconte de Lisle qui l’accueillit parmi les collaborateurs du Parnasse contemporain.
La fortune familiale lui assurant son existence, Heredia fut longtemps un poète du paradoxe : être l'un des poètes les plus célèbres tout en demeurant à peu près inédit. Faisant paraître quelques traductions, il donnait de temps à autre des sonnets aux revues. Ce n’est qu’en 1893 qu’il se décida à les réunir en un volume, Les Trophées, qui connut aussitôt un succès considérable : la première édition fut épuisée en quelques heures !
L’œuvre unique de ce « véritable joaillier du vers » retrace l'histoire du monde au travers de 118 sonnets parmi lesquels Les Conquérants, ou Le Récif de corail.
Il fut reçu à l’Académie française le 30 mai 1895. Depuis 1994, l’Académie décerne le Prix Heredia à des auteurs de sonnets ou d'un recueil de prosodie classique.
Désormais, il n’écrivit plus que quelques poésies de circonstance et assuma la direction littéraire du Journal. Il fut nommé administrateur de la bibliothèque de l’Arsenal en 1901 et, l’année suivante, il créa la Société des Poètes français avec Sully Prudhomme et Léon Dierx.
Séduit par la basilique de Bonsecours, le monument Jeanne d'Arc qu'il visita très souvent avec Flaubert, Heredia acheta une concession dans le cimetière Notre Dame de Bonsecours où il fit enterrer sa mère. Ce fut donc tout naturellement qu’il y fut inhumé.
Située sur les hauteurs, la sépulture familiale domine un magnifique point de vue sur la Seine. Petite précision jamais indiquée, le vers gravé sur la pierre tombale n'est pas d'Heredia, mais est extrait de l'idylle Néaere d'André Chénier...Rendons à César...
Sa fille Marie fut aussi une poétesse et une romancière reconnue sous le nom de Gérard d'Houville.
Dans le petit enclos, très bien signalisé dès l'entrée du cimetière, reposent également:
► Louise Françoise Girard de Houville (1807- 1877)
Sa mère qui était aussi écrivaine.
► Louise Cécile Despaigne (1848-1928)
Sa femme.
► Hélène de Heredia (1871-1953)
Sa fille qui en premières noces épousa Maurice Maindron. Veuve, elle convola en 1911 avec l'homme de lettres, journaliste et critique littéraire René Doumic (1860-1937), inhumé au Père-Lachaise.
► Maurice Maindron (1857 – 19 juillet 1911)
Son gendre. Premier époux d’Hélène de Heredia et fils du sculpteur Hyppolite Maindron, Maurice est un célèbre entomologiste, sciences qu’il sut vulgariser au travers d’ouvrages et d’articles scientifiques grâce auxquels il gagnait sa vie. Un peu touche à tout, il s’essaya avec succès dans les romans, les nouvelles et autres littératures dans lesquelles il narre ses voyages en Guinée et en Inde donnant un goût d’aventure à ses récits. Son activité littéraire et son érudition plurent à José Maria ainsi qu’à Hélène qu’il épousa en 1899.