Avec l’arrivée de Poincaré à la présidence de la République, il s’engagea très activement dans la défense de l’adoption de la Loi de trois ans pour le service militaire et fut nommé sous-secrétaire d’État à la Guerre. Grièvement blessé dès le début de la Première Guerre mondiale, il ne retourna plus au front. Ministre des Colonies (1917 et 1928-1929), des Pension (1920-1924), c’est comme ministre de la Guerre qu’il initia le grand projet qui lui valut de rester dans les mémoires.
Se préoccupant de la défense des frontières françaises, il fit entamer un programme de fortifications et s’acharna à lever des fonds dans ce but conjointement avec Paul Painlevé quand celui-ci le remplaça à la tête du ministère.
De retour au ministère de la Guerre (nov. 1929), persuadé que des défenses fixes étaient la meilleure solution, il déclara d'emblée qu'il allait appliquer sans restriction le nouveau statut de l'armée et activa la réalisation du programme de fortifications approuvé en janvier 1929 par le gouvernement sur proposition de Painlevé après des années de débats, et obtint du Parlement des crédits destinés aux fortifications de L’Est.
Ainsi de 1928 à 1940, ce dispositif complexe, conçu de manière non homogène et à la réalisation souvent non conforme au projet d’origine pour des raisons budgétaires, fut-il édifier le long de nos frontières avec la Belgique, le Luxembourg, l'Allemagne, la Suisse et l'Italie.
Elle avait coûté plus de quatre milliards de Francs, ce qui, comparé à des réalisations précédentes, n'était pas si exhorbitant. Néanmoins, à ce prix là, on pouvait espérer une efficacité en proportion. Le 10 mai 1940, les Allemands passaient à l'offensive à travers le Luxembourg, la Belgique et les Pays-Bas en prenant soin d'éviter les points forts de la ligne supposée résister à l'envahisseur. Entre le 26 juin et le 2 juillet, ils prenaient possession de sa partie Nord-Est et s’en faisaient livrer les plans…
Son créateur, mort d’une fièvre typhoïde huit ans plus tôt, n’assista pas à ce marasme. Après la célébration d’un deuil national et d’obsèques en grande pompe aux Invalides, il avait été inhumé au cimetière de Revigny-sur-Ornain où la sépulture familiale est la plus imposante du lieu.
L'expression "Ligne Maginot" naquit dans les médias en 1935, formule lancée, semble-t-il par Louis Jacquinot, député de la Meuse.