Après avoir laissé le Maroc, et s’être distingué au sein du Corps expéditionnaire français lors débarquement de Namsos (avril 1940) durant l'expédition de Norvège, il quitta la France à l’armistice et rejoignit l’Angleterre.
Aux ordres du général de Gaulle, il joua un rôle important dans le ralliement à la France Libre du 2e bataillon de Légion. Il fut de l'expédition "Menace" qui rassembla les Forces françaises libres et les forces britanniques contre les forces françaises du gouvernement de Vichy lors de la tentative de débarquement à Dakar. Malgré l’échec de cette opération, deux mois plus tard, il joua joue un rôle prépondérant dans le ralliement du Gabon (nov. 1940).
L’Afrique et le Moyen-Orient devinrent alors le terrain sur lequel il glana brillamment ses lauriers. Commandant militaire du Cameroun (déc. 1940), si son état de santé l’empêcha de participer à la campagne d'Erythrée, il était au Soudan et en Palestine et fut de la campagne de Syrie. A l'armistice de Saint-Jean d'Acre, Koenig était délégué pour la France libre à la Commission d'Armistice.
Combattant en Lybie, il prit part, entre autres, à la bataille de Bir-Hakeim (fév.-juin 1942) en qualité de commandant de la 1ère Brigade française libre. Pendant quatorze jours, malgré une infériorité numérique flagrante, il résista héroïquement aux attaques italo-allemandes menées par Rommel permettant ainsi à la VIIIe Armée britannique de se réorganiser et de vaincre l’Afrika Korps. Mieux, à travers les champs de mines, il parvint à ramener avec lui les trois-quarts de ses hommes.
Présent à la bataille décisive d’El Alamein (fin oct./dbt nov. 1942) et à la campagne en Tunisie (avril-mai 1943), général de division, commandant de la 1ère DFL, il quitta cette fonction pour celle de chef d'Etat-major adjoint de l'Armée à Alger et y opérer la fusion entre les troupes d'Afrique du Nord et celles de la France libre.
Délégué du Gouvernement provisoire de la République française auprès du général Eisenhower (mars 1944), commandant suprême interallié, commandant des Forces françaises en Grande-Bretagne et des Forces françaises de l'intérieur (FFI), il fut nommé gouverneur militaire de Paris (25 août 1944) jusqu'à la fin des hostilités.
Après avoir commandé les Forces françaises en Allemagne (juil. 1945), il prit le poste d'Inspecteur des Forces terrestres, maritimes et aériennes de l'Afrique du Nord (1949). Parallèlement, il devient vice-président du Conseil supérieur de la Guerre.
Elu membre de l'Académie des Sciences morales et politiques (1950), deux fois élus député RPF du Bas-Rhin (1951 et 1956), président de la Commission de la Défense nationale de l'Assemblée nationale d'août, il fut ministre de la Défense pendant deux mois dans le cabinet Mendès-France puis de nouveau pendant quelques mois au sein du cabinet Edgar Faure. Il était également membre du Conseil de l’Ordre de la Libération.
A cet impressionnant palmarès, faut-il encore rajouter pas moins de quarante-trois récompenses honorifiques décernées autant par la France que par d’autres pays dont la Grande-Bretagne, l’ex-URSS, les Etats-Unis, etc.
Et pourtant, de Gaulle ne lui pardonnant pas d’avoir pris publiquement position en faveur d’Israël, la Ve République l’ignora.
Retiré de la vie politique, il fut élevé à la dignité de Maréchal de France à titre posthume par décret du 6 juin 1984. A ce jour, il est le dernier général français élevé à cette dignité depuis la Libération.
Après ses obsèques solennelles en l’église Saint-Louis des Invalides, Pierre Kœnig fut inhumé au cimetière de Montmartre où la sobriété de sa tombe ne la distingue pas des autres.