Arrêté, il échappa de justesse à la guillotine mais fut déporté en Guyane en 1795. Là, soupçonné avec son ami Billaud-Varenne de participer à un complot fomenté par d’anciens esclaves noirs, il fut envoyé au fort de Sinnamary où, à peine arrivé, il tomba gravement malade. Son penchant pour l’alcool ne l’ayant pas quitté, à sa demande on lui présenta une bouteille de rhum qu’il ingurgita d’un trait accélérant ainsi l’issue fatale. Il expira peu après dans d’atroces souffrances en arrivant à l’hôpital de Cayenne.
Le jour de son enterrement c’était la fête à Cayenne : « Les nègres respirent à pleins poumons la liberté et vont courir sous les masques dans les rues de Cayenne fêtant l'arrivée du Directoire, qui a pris les affaires en main. Déguisés en diables noirs, en sorciers et en clowns, ils déferlent dans les rues de Cayenne [...] Lors du passage de son cercueil dans les rues, les blancs créoles changeaient de rue dès qu'ils l'apercevaient. Quant aux noirs et aux amérindiens, à sa seule vue, ils s'enfuyaient, épouvantés en faisant le signe de la croix »
La fête battait son plein et les fossoyeurs, pressés de s’y mêler, bâclèrent leur travail : « Ils fouillent la tombe à moitié, ils poussent le cercueil à moitié ouvert dans le trou qui n'est pas assez agrandi. Ils n'ont même pas le temps de jeter beaucoup de terre sur le couvercle à moitié décloué. Ils laissent tomber en désordre pelles et pioches pour aller s'engouffrer dans la fête qui bat son plein ».
Collot d'Herbois fut inhumé au cimetière de Cayenne. Quelques jours plus tard, il ne restait guère grand chose de sa tombe et de sa dépouille : les porcs l’avaient déterrée, s’en étaient régalés avant que les urubus, juchés sur les murs du cimetière, ne prennent part au festin.
Quand dix ans plus tard Fouché devint ministre de la police de Napoléon Ier , il n’oublia pas ses amis de la Révolution. Il fit verser un secours mensuel à la veuve de Collot d’Herbois qui vivait fort pauvrement ainsi qu’à Charlotte, la sœur de Robespierre.
Sources pour l'enterrement et la sépulture: D’après un récit d’Auxence Contout