Conseiller d’Etat, puis premier écuyer de la Grande écurie du roi (1616), il devint ainsi Monsieur le Grand auprès de ses contemporains. Habile courtisan, sa situation confortée à la cour, il participa, dès 1621, à toutes les opérations militaires menées par Louis XIII contre les protestants (sièges de Saint-Jean-d’Angély, Clairac, Montpelier, La Rochelle, etc.).
Ami proche de Richelieu, dont il sut gagner la confiance, celui-ci lui fut toujours gré de s’être toujours à l’écart des cabales de Gaston d’Orléans, intelligence que n’eut pas son fils, qui paya cher son soutien à Monsieur.
En 1624, après une délicate ambassade en Angleterre –il s’agissait de négocier le mariage du futur Charles Ier d'Angleterre avec Henriette Marie de France et, in fine, d’obtenir des persécutions subies par les catholiques anglais- il obtint l’érection de la baronnie de Longjumeau et de sa terre de Chilly en marquisat.
Serviteur fidèle et dévoué du cardinal, voire « sa créature », il fut nommé successivement, en 1626, Intendant du commerce, Intendant général de la marine, puis Surintendant des Finances et entra à tous les conseils, faveur à laquelle ses prédécesseurs à cette fonction n’avaient jamais été conviés. Il réussit à rétablir les finances royales négligées par Richelieu et en piteux état. A son décès, à la surprise de tous, il laissait l’équivalent d’environ 70 millions d’euros dans les coffres du roi.
Pourvu de charges lucratives et parvenu à un statut social très élevé, afin d’affirmer sa position et d’assoir durablement sa lignée en fiefs et titres prestigieux, il se lança dans une politique d’agrandissement de ses divers seigneuries originelles. Dans cette même volonté d’affirmation, il fit construire les châteaux de Chilly (Chilly-Mazarin dans l'Essonne), sa terre d’adoption, et d'Effiat, sa terre natale.
Durant le terrible siège de La Rochelle, il fut mobilisé dans le financement des opérations militaires et dans l’approvisionnement des troupes, rôle crucial s’il en était, on le vit présent aux côtés du roi lorsque ce dernier en reçut triomphalement les clés (1628). Mais après la prise de La Rochelle, Richelieu ayant décidé « d’achever de détruire la rébellion de l’hérésie », les hostilités reprirent contre les protestants dans le sud du royaume. Nommé Grand-maître de l’Artillerie, il participa au siège de Privas (1629), puis à celui d’Alès où Richelieu accorda la paix aux huguenots le 28 juin.
L'année suivcante, il se vit confier une nouvelle mission diplomatique et militaire dans le Piémont où il se distingua lors de la bataille de Veillane et dans la prise d’autres villes. Furieux de ne pas recevoir d’office son bâton de maréchal en récompense, il partit bouder sur ses terres, et obtint enfin son maréchalat en janvier 1631. La même année, après s’être démis de son gouvernement de l’Anjou, obtenu en 1627, il prit celui d’Auvergne, du Bourbonnais et du Nivernais.
Mais alors qu’il se portait au secours de l’archevêque de Trêves, confronté à une offensive suédoise, il fut gagné par la fièvre, et mourut à Lutzelstein en Lorraine.
En 1627, le futur maréchal avait passé une convention avec les Oratoriens selon laquelle il leur confiait l’administration de la paroisse et s’engageait à construire l’église, sous le vocable de saint Blaise, dont les travaux s’achevèrent en 1634. Son corps, embaumé à Metz, y fut transporté et inhumé dans un caveau sépulcral aménagé sous le chœur de l’église et clos par une dalle de pierre.