Il suivit les traces paternelles et, après avoir été reçu au concours d’entrée de l’Ecole normale et en être sorti troisième de sa promotion, il fut nommé instituteur à Durnes ( Doubs) en 1901. Il y composa et y fit publier, à compte d'auteur, son premier ouvrage, un recueil de vers, L'Aube.
Muté à Landresse (Doubs), il y fut accueilli par les protestations des populations locales.
Pensez donc ! En pleine séparation de l’Eglise et de l’Etat sa réputation de socialiste et d’anticléricalisme l’avait précédé et voilà qu’il refusait d’assister à la messe et d'enseigner la doctrine catholique !
Finalement, en 1907, il renonça provisoirement à l'enseignement pour tenter sa chance à Paris, abandonnant au passage sa femme épousée quatre plus tôt. Sa maîtresse, Delphine Duboz, le rejoignit peu après. Il convola avec elle en 1910.
Occupant un modeste emploi pour vivre, il débuta dans les lettres avec un recueil en vers, L’Herbe d’avril (1908). Mais sa vocation était ailleurs.
Réintégrant l’enseignement en 1909, l’année suivante le Mercure de France publia son premier recueil en prose sous forme de nouvelles, De Goupil à Margot, qui obtient le prix Goncourt (1910).
Nommé expéditionnaire au service des beaux-arts de la préfecture de la Seine à la suite d'un concours, à partir de 1911, il se mit à écrire avec une sorte de fièvre : La Revanche du corbeau, autre série de nouvelles (1911), Le Roman de Miraut (1914) et bien sûr, son œuvre la plus célèbre, La Guerre des boutons, roman de ma douzième année, parue en 1912 nous offrant avec humour les rivalités belliqueuses entre les garçons de deux villages voisins.
Porté à l’écran par Yves Robert en 1962, il est à noter que la fameuse réplique de Tigibus « Si j'aurais su, j'aurais po v'nu » n'appartient pas au roman original.
Suivirent de nombreuses autres histoires publiées à titre posthume.
Mobilisé en août 1914, le 8 avril 1915, son régiment lança, dans le secteur des Éparges près de Verdun, une attaque contre les lignes allemandes très proches (Marchéville-en-Woëvre - Cote 233) à l'issue de laquelle il fut porté disparu.
Il semble, qu’après avoir été piégé dans les barbelés et blessé par balles, les soldats allemands seraient venus à son secours plusieurs heures plus tard, et l'auraient emmené avec quelques-uns de ses camarades dans un hôpital provisoire. Ce bâtiment, situé à Fresnes-en-Woëvre (Meuse), fut détruit par un tir de barrage de l'armée française le 8 avril. Louis Pergaud, et de nombreux compatriotes, auraient donc fait partie des victimes.
Le 4 août 1921, Louis Pergaud fut déclaré « mort pour la France ». Son corps n'ayant jamais été retrouvé dans ce cimetière de ruines, il ne possède aucune tombe.
Son nom figure parmi la longue liste apposée au Panthéon des écrivains combattants morts pour la patrie pendant la Première Guerre mondiale.