Nommé chancelier et Garde des sceaux par le Régent (1717), son opposition au système de Law lui valut sa première disgrâce et un exil dans ses terres. Rappelé après la chute de John Law pour apaiser l’opinion (1720), mais évincé par le cardinal Dubois, il connut sa seconde disgrâce. Bien que de nouveau appelé (1727) par le cardinal de Fleury après la mort du Régent, il ne récupéra ses sceaux que dix ans plus tard, autant d’années qu’il employa à rendre un lustre considérable à la fonction de chancelier de France bien ternie par ses prédécesseurs. Poursuivant l'œuvre de codification du droit engagée sous Louis XIV, il fit adopter par Louis XV quatre importantes ordonnances sur les donations (1731), les testaments (1735), le faux (1737) et les substitutions fidéicommissaires (1747). L’ensemble des réformes du chancelier améliora également les procédures judiciaires et tendirent à assurer davantage d'uniformité dans l'application des lois.
En dépit de la réserve à laquelle l'obligeait sa position officielle, en traduisant les aspirations de la bourgeoisie, il apparaissait en politique comme un esprit réformateur et aida, à sa façon, ses contemporains à prendre conscience de l'unité nationale.
Philosophe, il conçut un système de philosophie politique qui alliait le rationalisme cartésien, l’égalitarisme, la morale janséniste et le gallicanisme, qui eut une influence considérable à son époque.
Son œuvre législative est regardée comme aux origines de la codification napoléonienne.
Libéral, sinon tolérant, en matière de religion comme de censure, certains avancèrent que la constitution civile du clergé, en intégrant l'Église dans l'État, était dans la droite ligne du gallicanisme du chancelier.
Magistrat et juriste éminent, remarquable par ses qualités sociales, sa piété et son immense instruction, sa réputation de sagesse et de probité lui valurent un respect unanime. Devenu l'un des plus importants personnages de l'État, il se démit de ses fonctions en 1750 et mourut l’année suivante.
Par humilité, sa femme, Anne Lefèvre-d’Ormesson (1678-1735), avait demandé à reposer parmi les pauvres au cimetière de l’église d’Auteuil, alors village non rattaché à Paris, où fut également inhumé le chancelier.