Habitué à corrompre les politiques et les agents municipaux, le gangster n’apprécia pas de se voir renvoyer à la figure ses billets de banque par Eliot Ness et son équipe de neuf hommes triés sur le volet.
Porté par la presse qui les surnomma les Incorruptibles, Ness s'appuya sur elle. De pouffer, la pègre se mit à rire jaune et à éponger les sueurs froides que le policier lui donnait. Eliot et ses hommes avaient déjà profité de l’emprisonnement de Capone à Philadelphie pour semer la panique dans son organisation en saisissant des camions de trafics d’alcool et en fermant plusieurs distilleries et brasseries. Puis le rythme s’accéléra avec plus de fermetures et d’arrestations. En 1931, cerné par la pugnacité de Ness et Wilson, Al fut vaincu.
Prenant du grade, Ness continua sa lutte contre la prohibition à Chicago et dans l’Ohio jusqu’à la fin de celle-ci en 1935. Nommé directeur de la sécurité publique à Cleveland, il nettoya la ville de la corruption policière et s’attaqua aux jeux illégaux.
Toutefois, le fait d’échouer dans la capture d’un tueur en série surnommé le Cleveland Torso Murderer vint assombrir ses succès passés. Quand en 1942, il fut impliqué dans un accident de voiture alors qu’il était ivre, les attaques de la presse provoquèrent sa démission.
Il déménagea à Washington DC où il travailla pour le gouvernement fédéral. En 1944, il quitta ce travail pour endosser le costume de Président de la Diebold Corporation, une société de coffres-forts dans l’Ohio.
En 1947, il se présenta à l’élection du maire de Cleveland mais échoua.
Bien que vivant en Pennsylvanie au moment de sa mort, il souhaitait que ses cendres soient dispersées à Cleveland où, malgré des échecs, il avait tant œuvré pour en faire une ville meilleure. En septembre 1997, sa volonté fut respectée. Ses cendres, ainsi que celles de sa femme et de leur fils, furent rapatriées à Cleveland et dispersées dans un étang du cimetière par la police de la ville. Sa pierre tombale n'est donc qu'un cénotaphe.