Président du Sénat à partir de 1899, il fut constamment réélu à cette fonction jusqu’à son élection à la présidence de la République, en 1906, qu’il remporta contre Paul Doumer. Il chercha à se faire l’arbitre des classes politiques et à rapprcher la fonction présidentielle des Français. Très populaire, on le surnommait affectueusement « le père Fallières ».
Opposé à la peine de mort, il gracia systématiquement les condamnés à mort tant qu’il le put, ce qui lui valut cette fois le surnom de « papa gracias ».
Il travailla au renforcement de la Triple Entente entre la France, le Royaume-Uni et la Russie, se rendant en Angleterre ou rencontrant le tsar Nicolas II. Attaché à l’instruction, en 1902, une réforme adapta l’enseignement secondaire aux nécessités de la vie moderne en attribuant une plus grande place aux sciences et aux langues étrangères.
Sous sa présidence, l’Affaire Dreyfus prit fin et on transféra les cendres d'Emile Zola au Panthéon. On lui doit aussi l’instauration de l’isoloir qui permit d'organiser les votes secrets.
Bien que discret, son mandat fut marqué par une prospérité économique nationale certaine ainsi que par les tensions avec l’Allemagne qui débouchèrent sur la Première Guerre mondiale
A la fin de son septennat, il ne souhaita pas se représenter, justifiant sa décision par la fameuse phrase : « la place n'est pas mauvaise, mais il n'y a pas d'avancement ».
Il se retira dans sa propriété de Loupillon (Villeneuve-de-Mézin) où il s’occupa de ses vignobles ce qui convenait très bien à cet amateur de vin. C’est là qu’il s’éteignit.
Tout naturellement, Armand Fallières fut inhumé dans la tombe familiale du cimetière de Mezin, sa commune natale.