Il fut chargé avec Raymond Losserand et Gaston Carré de l'organisation de groupes armés dans la région parisienne, qui furent fondus (fév.1942) dans la résistance armée des Francs-tireurs et partisans (FTP), dont avait la responsabilité militaire.
Chef régional des FFI pour l’Île de France, dans la mémoire collective, son nom reste principalement attaché à la Libération de Paris, qu’il avait longuement préparée avant l'arrivée des blindés du général Leclerc, et dont les lauriers, s’ils lui revinrent en partie, eurent un goût d’amertume. Malgré l’estime qu’il pouvait avoir pour cet homme de caractère à l’indépendance proverbiale, De Gaulle était aussi bien décidé à ce que la capitale ne tombât pas aux mains d’un pouvoir communiste. Parmi certaines vexations, alors qu’il l’avait demandé et qu’il était présent pour la recevoir, son nom ne figure pas sur l'acte de reddition signé par Von Choltitz.
Engagé dans l’armée jusqu’à la fin de la guerre, aucun commandement ne lui fut vraiment confié et ses possibilités d’actions au combat, notamment en Allemagne, furent aussi très limitées. Le 18 juin 1945 De Gaulle le décorait de la croix de la Libération.
Après la guerre, affecté au cabinet militaire du ministre de la Défense nationale, puis chef du 3e bureau de l'état-major de la subdivision du Mans, ses convictions politiques lui valurent d’être relégué dans des affectations de plus en plus subalternes jusqu’à ne plus en avoir avant de partir à la retraite en 1962.
Figure emblématique de la Résistance communiste à partir des années 1960, membre du comité central du PCF de 1962 à 1987, mais avec un rôle limité, il fut président de l'Association nationale des anciens combattants de la Résistance (ANACR) et de l'Amicale des anciens volontaires français en Espagne républicaine.
Il est également l’auteur de plusieurs ouvrages sur la Libération de Paris.
Le 13 septembre 2002, cinq jours après sa mort, Jacques Chirac présida l’hommage national qui lui était rendu aux Invalides. Depuis, son nom a été donné à des établissements scolaires, de nombreuses rues dans plusieurs villes, etc.
Dans le film Paris brûle-t-il ? (1966), son rôle est interprété par Bruno Cremer.
Henri Rol-Tanguy fut inhumé au cimetière de Monteaux, commune où il s'était retiré. Sa tombe ne s'orne que de peu de chose pour rappeler son rôle important dans l'histoire.