Destitué en tant qu'ancien noble, il quitta l’armée, et ne recouvra son grade, et la retraite associée, qu’en 1795. Nommé sénateur (1805), il fut fait comte d’Empire (1808) quelques jours avant sa mort. Inhumé au Panthéon (caveau V), son cœur fut déposé en l’église de Caulaincourt.
Paradoxalement, ce ne fut pas son parcours militaire, qui n’avait rien d’exceptionnel pour l’époque, qui retint dans l’histoire le nom de Caulaincourt, mais plutôt le fait d’être le père de deux fils qui s’y distinguèrent vraiment : Auguste Gabriel et Armand-Louis dont les destinées évoquent davantage la représentation des panthéonisables que leur père.
Le nom de Caulaincourt est gravé sur l’arc de triomphe de l’Etoile.