Excédé par ce personnage coutumier du fait, Fouquier-Tinville le fit emprisonner. Dès sa libération après le 9 thermidor, Antonelle continua à gigoter de la langue de telle façon que ses contemporains, qui se heurtaient aussi à ses incohérences, le jugèrent comme « un cerveau brûlé ». Il fut de nouveau arrêté comme complice de la conjuration des Egaux. Sa subtile apologie de la paix civile et du gouvernement lors de son procès lui rendit sa liberté.
Par la suite, le Consulat, lassé de ses propos autant que de son comportement, l’assigna à résidence. Il choisit Arles, sa ville d’origine, qu’il avait abandonnée pour Paris. Arles où, dégoûté de la politique, il finit ses jours et où son souvenir reste très discret.
Et pourtant, réfléchissant aux libertés fondamentales, il fut l'un des théoriciens de la République ce que tout le monde a oublié à cause des circonstances qui ne furent pas favorables à sa personnalité.
A sa mort, le clergé, qui se souvenait bien de son rôle durant la Révolution et de son « Catéchisme du tiers état », lui aurait volontiers dénié tout droit à ses services d'inhumation pour abandonner sa dépouille dans un coin de cimetière. Ce fut donc du bout des lèvres qu’il accepta de lui accorder malgré tout un seul prêtre pour l’absoute, mais refusa toute oraison funèbre avant qu’il ne rejoigne le caveau familial. En revanche, ses funérailles furent suivies par une foule immense.