A l’époque, le grand art qui attirait les foules était l’opéra-comique que se disputaient Favart et Feydeau. Ce dernier proposait dans son catalogue surtout des drames héroïques signés Cherubini ou Lesueur alors que Favart affectionnait les spectacles patriotiques avec des œuvres plus légères d'Etienne-Nicolas Méhul.
En 1797, Boieldieu proposa à Feydeau La Famille suisse et, l’année suivante, offrit à Favart Zoraime et Zulmare. Le succès fut foudroyant.
Avec ses mélodies sans ornements superflus, qu'il mettait en valeur avec une instrumentation légère mais soignée et des dialogues spirituels, le triomphe de Boieldieu ne se démentit pas. Berlioz attribuait à sa musique une « élégance parisienne de bon goût qui plaît ».
En 1804, à l'invitation personnelle du tsar Alexandre Ier, il partit pour Saint-Pétersbourg afin d'occuper le poste de compositeur de la cour du Tsar, poste qu’il occupa jusqu’en 1810. Après y avoir plusieurs opéras et une dizaine d'autres œuvres, il rentra en France.
En 1825, pour le couronnement de Charles X, il composa Pharamond en collaboration avec Berton et Rodolphe Kreutzer. La même année, alors que la mode tournait en faveur du style de Rossini, qu’il admirait, il publia, sur un livret de Scribe, ce que beaucoup considère comme son chef-d’œuvre La Dame blanche. Par ses qualités musicales, l’œuvre constitue un sommet non seulement de l'opéra-comique français (dont c'est la dernière manifestation d'envergure), mais du romantisme légendaire et féerique des années 1820 (illustré également par Weber). Elle se maintint de longues années au répertoire en France et en Allemagne.
En 1829, il chercha sans succès à varier son style. Il commença alors un nouvel opéra, Marguerite, mais la maladie stoppa sa composition ; cet opéra fut achevé en 1838 par son fils, Louis Boieldieu.
Atteint d’un cancer au larynx, perdant l’usage de la parole, il se rendit en cure à plusieurs reprises dès 1830. La faillite de l'Opéra-Comique et la Révolution de 1830 ajoutèrent à son malheur. Afin de lui éviter la misère, Adolphe Thiers lui assura une pension de l'État. Le 25 septembre 1834, il fit sa dernière apparition publique pour la première du Chalet d'Adolphe Adam.
Après des obsèques nationales, François-Adrien Boieldieu fut inhumé au cimetière du Père-Lachaise où, sur son tombeau, bien caché dans la verdure, furent gravées quelques unes de ses œuvres.
Son cœur fut déposé au cimetière monumental de Rouen dans un tombeau offert par la ville.
De son héritage, on peut cependant regretter une chose : la maigreur de sa production purement instrumentale (pièces et concertos pour piano et pour harpe), dont son concerto pour harpe en ut majeur (1800) qui démontre avec brio quel talent il possédait outre les œuvres qui firent sa gloire.