Envoyé en mission dans les départements de l’Ouest insurgés, puis dans d’autres provinces, notamment dans le Gers et les Landes où il est connu pour avoir exigé le déshonneur d’une jeune fille lui promettant de sauver la tête de son père qu’il expédia quand même à l’échafaud. Réussissant à se disculper de ce crime, on l’envoya à l’armée du Rhin et Moselle.
Echappant aux poursuites de la Convention thermidorienne, le 21 mai 1795 (Ier prairial an III), alors qu’il dirigeait les troupes chargées de la protection de la Convention, il fut incapable d’empêcher les émeutiers de pénétrer dans la salle des séances qui présentèrent au président, Boissy d’Anglas, la tête de Bertrand Féraud fixée au bout d’une pique. Le 5 octobre 1795 (13 vendémiaire an IV), il seconda Barras dans la répression de l’insurrection royaliste.
Après avoir un peu siégé au Conseil des Cinq-Cents, effectué une mission à Mascate (1803-1804), un séjour à Naples (1806-1812) et un éphémère passage à la préfecture d’Amiens en 1815, il fut exilé comme régicide à la Restauration et partit pour la Belgique en janvier 1816. Il laissait à Paris sa femme et ses deux fils Godefroy et Louis-Eugène dans une situation précaire. Il décéda à Bruxelles.
Sa dépouille n’ayant pas été réclamée par les siens, sa tombe existe-t-elle encore ? Sinon, il est probable que ses restes aient terminé dans un ossuaire bruxellois.
A défaut de sa présence, son nom inscrit sur la sépulture familiale au cimetière de Montmartre évoque sa mémoire.
Son frère, Jacques-Marie Cavaignac, fut général d’Empire.