Contraint de démissionner pour défendre sa femme, Caillaux fut néanmoins réélu aux législatives de 1914 malgré « l’affaire ». Toujours hostile à la guerre, chef de file des partisans d'une paix sans annexions ni indemnités, il se borna à effectuer des missions en Argentine et en Italie.
En 1917, son vieil ennemi Clémenceau était de retour au pouvoir. Assimilant les positions de Caillaux à la trahison, dont l’accusait aussi la droite radicale, « impliqué » dans des scandales du moment, il fut arrêté en janvier 1918 pour intelligence avec l’ennemi. Condamné, en février 1920, à trois ans d'emprisonnement et à la privation de ses droits civiques, à sa libération, il quitta à Paris où il ne revint qu'après la victoire du Cartel des gauches (1924).
Totalement réhabilité en 1925, il poursuivit sa carrière politique et retrouva son portefeuille des Finances sous plusieurs gouvernements. Puis, élu au Sénat, il renversa à deux reprises le gouvernement du Front Populaire, de cette gauche à laquelle il devait tant !
Après avoir voté les pleins pouvoirs à Pétain en 1940, il se retira de la vie politique et passa ses dernières années à compléter et à achever ses mémoires dans sa propriété de Mamers (Sarthe) où il mourut quasi oublié.
Il fut inhumé dans la tombe familiale au cimetière du Père-Lachaise où reposait son père.