N’aimant pas Robespierre, s’il le vit tomber sans regret, il avait raison de s’alarmer de la réaction thermidorienne qu’il ne put freiner et dont il fut l'une des victimes. L’opportunité de se débarrasser de lui se présenta grâce à l’insurrection du 1er prairial (20 mai)*. Soutenant verbalement les insurgés, dès que le calme revint dans Paris, Romme, avec d’autres Montagnards, fut immédiatement arrêté et condamné à mort pour avoir comploté contre la Convention et la République.
A l’écoute de la sentence, ne voulant pas donné à ses ennemis la satisfaction de l’exécuter, il saisit le couteau avec lequel Goujon venait de se donner la mort et en fit autant. Puis, dans un dernier geste, il tendit l’arme à Duquesnoy qui se suicida à son tour. Par la suite, on les surnomma « les martyrs de Prairial ».
D’abord inhumé au cimetière des Errancis, ses restes furent transférés aux Catacombes à la fermeture du cimetière.
*Le 20 mai 1795, des sans-culottes parisiens au cri de « Du pain et la constitution » envahirent la Convention, assassinèrent le député Féraud et ne furent chassés que grâce à l’intervention des troupes massées autour de Paris. La Convention vota alors l’arrestation des députés compromis dans l’émeute dont Romme.