Chargé d’âme depuis son mariage, il découvrit la misère de l’enseignement, l’ennui de la vie de province et le démon de l’impuissance poétique. Cet exil ardéchois de trois ans fut décisif pour son évolution intellectuelle : la poésie n’est pas seulement l’aveu d’un idéalisme absolu, elle est aussi un travail sur les vers en vue de l’effet à produire.
Dans l’espoir d’être joué au Théâtre-Français, il commença une tragédie, Hérodiade (1864), qu’il abandonna pour la transformer en poème. Cette œuvre charnière, outre le néant sous les mots, lui révéla l’immanence de la divinité dans l’âme humaine et celle de la poésie ou de la beauté dans le langage. Cette révélation décisive, suivie d’une période de doute absolu, eut pout effet d’ajourner tout travail d’écriture alors même que plusieurs de ses poèmes devaient être publiés dans le Parnasse contemporain, collectif de poésies dont le mouvement parnassien fut issu.
Dépressif, cherchant à dépasser ce sentiment d'impuissance lié à son état, il se mit en quête d'une beauté pure que seul l'art peut créer : « le monde est fait pour aboutir à un beau livre », affirmait-t-il, le « grand œuvre ».
A cette période succéda celle de la découverte de Descartes qui l’amena à la science linguistique lui permettant de donner un fondement scientifique à son œuvre. Parallèlement à ce travail, abandonné et repris plusieurs fois, toujours professeur dans divers établissements de province ou de Paris, on lui doit aussi quelques ouvrages alimentaires comme Les Mots anglais (1878) ou Les dieux antiques (1880).
Marqué par la mort de son fils, Anatole (1871-1879), qui lui inspira Le Tombeau d’Anatole, Mallarmé bénéficia enfin d’une audience plus large et gagner en notoriété grâce à Verlaine qui, en 1883 et 1884, fit paraître le troisième article des Poètes maudits consacré à Mallarmé, et à Huysmans qui publia À Rebours (1884), dont le personnage principal voue une vive admiration à ses poèmes.
En ces années 1880, où la mort de Victor Hugo libéra symboliquement le champ de la poésie, Mallarmé, avec Verlaine, devint, bien malgré lui le modèle d’une nouvelle génération et le parrain du symbolisme naissant.
Ambitionnant une œuvre plus vaste que celle qu’il a déjà composée, il revint sur son rêve du « grand œuvre » conçu comme « l’explication orphique de la Terre, qui est le seul devoir du poète et le jeu littéraire par excellence ». Ces spéculations sur le « grand œuvre » furent matière à divers articles réunis avec ses poèmes en proses et publiés sous le titre Divagations (1897).
Mis à la retraite de l’enseignement (1893) qu’il n’avait jamais quitté, sa pièce Prélude à l'après-midi d'un faune mise en musique par Claude Debussy, il donna des conférences littéraires à Cambridge et Oxford. Organisateur des fameux "mardis littéraires" de la rue de Rome, il fut consacré Prince des poètes à la mort de Verlaine (1896).
Le temps encore d’apporter son soutien à Emile Zola dans l’affaire Dreyfus, Mallarmé, d’une santé fragile, mourut prématurément victime d’un étouffement.
Parti du rêve de faire de la poésie, par un idéalisme forcené et une langue au-delà de la langue, en se réappropriant par la linguistique et la poésie une histoire idéale du langage, ce modeste fonctionnaire fut l’agent d’une véritable révolution poétique qui, toutefois, n’est pas toujours facile à appréhender.
Mort à Vulaines-sur-Seine où, dans le quartier de Valvins, il possédait une maison devenue un musée qui lui est dédié, Stéphane Mallarmé fut inhumé dans le petit cimetière de la commune voisine de Samoreau où reposait déjà son fils Anatole.
Dans la tombe familiale toute simple, furent aussi inhumées :