De retour à Paris, Gustave raffolait de la vie de bohème, des restaurants, des bars animés de la Butte Montmartre près de laquelle il logeait.
En phase avec le milieu du petit peuple, il cultivait l’esprit de contestation, la critique du système bourgeois et de l’ordre. Ses compositions comme la Chanson du Chemin, la Veillée rouge et la Ronde des Compagnons, révèlent un artiste engagé pour la cause des plus démunis,
De son séjour à Rome, il avait notamment rapporté des Impressions d’Italie (1891), montrant déjà une Italie populaire et réaliste, et qu’il avait habilement composées et orchestrées.
Depuis son retour à Paris, s’appuyant sur cette source d’inspiration populaire, il travaillait à un opéra vériste, Louise, dont l’écriture se termina en 1896. Créé à l’Opéra-comique le 2 février 1900, il obtint de suite un prodigieux trimphe. Emblématique du petit peuple de Paris, miséreux et romantique, la cousette de Montmartre, Louise, aime son voisin, Julien, jeune poète sans le sou. Sous les toits de Paris, se niche les amours anecdotiques des démunis. Le sujet n’était pas sans rappeler La Bohème de Puccini, opéra créé l’année où Charpentier termina le sien. Ses détracteurs parlèrent, et parlent encore, d’une œuvre facile, d’une « sorte de sous-Bovary de faubourg, midinette sentimentale en proie au Paris « artiste » de 1900 ». Bref, une œuvre qui corrige les défauts des créations précédentes du compositeur mais qui n’en fait pas pour autant un chef-d’œuvre. Pourtant, la musique y est tout de même parfois inattendue et novatrice.
Avec Louise, il avait le projet d’un triptyque. Mais, son second volet, Julien ou la vie de poète (1913), trop abstrait et surréaliste, déconcerta le public. Désarçonné par son insuccès, le troisième volet, L’amour au faubourg, ne fut pas présenté. Il laissa ainsi plusieurs œuvres inachevées.
Socialiste militant, en 1902, il fonda, avec le musicien Albert Doyen (1882-1935), le conservatoire populaire Mimi Pinson destiné à donner une éducation artistique gratuite à toutes les Louise de son époque.
Membre de l’Académie des Beaux-arts (1912), il se produisait plus en plus rarement. En 1938, à la demande d’Abel Gance, qui adaptait Louise pour le cinéma, il se replongea dans la partition et en contrôla l’adaptation. Le film ne connut pas le succès escompté.
Après la Seconde Guerre mondiale, où il était resté cloîtré chez lui au point qu’on le crut mort, il se consacra à l’écriture de chansons et de mélodies.
Souvent cité comme exemple de compositeur naturaliste ou vériste, son grand handicap fut probablement d'avoir vécu trop longtemps dans un monde en pleine évolution de l'écriture musicale qu'il ne suivit pas. Pourtant novateur en début de siècle, mais emprisonné dans son système, il était dorénavant d’un autre temps, dépassé par des Fauré, Debussy, Ravel ou Stravinski.
Il mourut oublié de tous et n’eut pas le droit à des funérailles officielles. Seuls ses confrères de l'Institut, quelques musiciens du Syndicat parisien qu'il avait créé et présidé, ainsi que la Fédération des Artistes Musiciens, suivirent son cercueil jusqu’au cimetière du Père-Lachaise où sa tombe laisse indifférent le visiteur.