L’aventure musicale de la famille commença avec les trois fils de Charles dit l’Ancien († 1654) : Louis, François et Charles qui eurent la chance de rencontrer, vers 1652, un claveciniste bien vu à la Cour et quittèrent leur petite commune de la Brie. Mais François II, dit le Grand, reste le plus célèbre de la lignée.
Fils de Charles Couperin, qui lui apprit la musique avant même qu’il ne sache lire et écrire, François était pourvu de tous les dons musicaux. Orphelin de bonne heure, il était déjà suffisamment talentueux pour assurer la « survivance » de son père à l'orgue de Saint-Gervais, (la transmission de la charge de titulaire).
Rentré au service de Louis XIV en 1694, il n’obtint le titre très envié d’Ordinaire de la Musique de la Chambre du Roi qu’en 1717. Entre temps, enseignant le clavecin au duc de Bourgogne, Dauphin de France, sa notoriété avait déjà dépassé les frontières du royaume.
A la fois somptueuse, élégante, élégiaque et secrète, sa musique évoque la société qu’il fréquente en tant que compositeur de Cour. On lui doit d’avoir introduit la sonate pour trio en France et instiller dans ce genre d'origine italienne un traitement de la mélodie et de l'ornementation typiquement français. Ainsi fut-il, après le règne de Lully, l’un des premiers à réussir une synthèse entre ces deux esthétiques dominantes de l’époque. Organiste à l’église Saint-Gervais-Saint-Protais, à la chapelle royale, parmi ses œuvres principales on peut noter : le cycle "Les Nations" (1726), les concerts royaux, pour clavecin et instruments, (1714-24); les trois "Leçons de ténèbres" (c.1714-15), pour voix seules, orgue et instruments, ainsi que des messes pour orgue qui comptent parmi les plus beaux exemples français de musique baroque pour orgue. Manifestement réfractaire à l’art théâtral, aucun opéra ni document sur ce sujet nous est parvenu.
Sa santé précaire avait commencé à décliner vers 1710. La multiplication de ses activités l’épuisait. En 1730, il céda ses différentes fonctions à sa fille, Marguerite-Antoinette.
Contrairement à ce que l’on peut croire, il ne fut pas enseveli en l’église saint-Gervais-saint-Protais qui reçut la dépouille d’autres Couperin.
A sa mort, intervenue sur la paroisse Saint-Eustache, il fut inhumé « dans l’église Saint-Joseph aide de la paroisse Saint-Eustache » c'est-à-dire la chapelle du cimetière Saint-Joseph, chapelle succursale de l’église Saint-Eustache dans laquelle étaient célébrés les services funèbres. Le cimetière disparut en 1796 et la chapelle fut détruite en 1800. Sa tombe ne fut pas préservée. Comme les autres ossements du cimetière, on peut raisonnablement penser que les siens furent déposés aux Catacombes.