Elu député du Loiret (1932) sous l'étiquette radical-socialiste, rapidement devenu l’un des espoirs du parti, il se vit confier le rapport de politique générale du congrès de 1935 qui décida l'adhésion du parti radical au Front populaire. Nommé sous-secrétaire d’Etat à la présidence du conseil en 1936, il fut membre du gouvernement du Front populaire comme ministre de l'Éducation nationale et des Beaux-Arts, ministère de l’Education sur lequel il porta un souffle nouveau avec, entre autres, la prolongation et démocratisation de la scolarité, des activités périscolaires, ….
Il fut élu conseiller général canton d'Orléans-nord-est l’année suivante.
Démissionnaire, dès le début de la Seconde Guerre mondiale, il rejoignit l'armée française où son courage et son dévouement furent attestés par ses chefs militaires.
Autorisé à rejoindre le gouvernement siégeant à Bordeaux à l’issue de la débâcle française de juin 1940, il fit partie de ceux qui décidèrent de quitter la France avec l'intention de constituer un nouveau gouvernement en exil afin de mieux reprendre l'offensive militaire à partir des départements d'Afrique du Nord. Le 21 juin, en compagnie du vice-président du Conseil, des présidents des deux chambres, de Pierre Mendès-France et de vingt-cinq autres parlementaires, il embarqua sur le Massilia à destination du Maroc. Le gouvernement de Vichy venait, lui, d’être mis en place. Cela changea toute la donne.
Arrivés à Casablanca le 24 juin, les passagers furent consignés dans un grand hôtel. Ceux qui étaient considérés comme mobilisés en tant qu'officiers, dont Jean Zay, furent arrêtés le 31 août et rapatriés en métropole pour être traduits devant le Tribunal militaire de Clermont-Ferrand pour « désertion devant l'ennemi ».
Pendant des mois, il fut « la cible notoire de la campagne antisémite » et une violente campagne de presse qui réclamait la condamnation à mort du « juif Jean Zay » comme juif, franc-maçon, anti-munichois, anti-hitlérien et ministre du Front populaire.
Condamné le 4 octobre à la déportation à vie et à la dégradation militaire, sa peine, la plus sévère, portait en elle le même sulfure nauséabond que l’affaire Dreyfus. Finalement, sa peine commuée par le régime de Vichy en simple internement en métropole, en janvier 1941, il fut incarcéré au quartier spécial de la maison d'arrêt de Riom où il continua à travailler aux réformes qu'il pensait pouvoir mettre un jour en œuvre.
Le 20 juin 1944, sous prétexte d’un transfert à la prison de Melun, trois miliciens l’extrayaient de sa prison. Pensant, selon leurs dires, qu’il s’agissait de résistants déguisés et missionnés pour lui faire rejoindre le maquis, il ne vit le piège se refermer qu'au dernier moment.
Dans un bois, près d'une carrière abandonnée, au lieu-dit Les Malavaux dans la faille du Puits du diable, à Molles (Allier), il fut abattu à la mitraillette de la main du dénommé Charles Develle . Afin qu'il ne soit pas identifié, il fut déshabillé et sa dépouille jetée dans une faille et cachée par un éboulis provoqué par l’explosion de grenades.