En 1939, il est nommé préfet d'Eure-et-Loir à Chartres. Après la déclaration de guerre, il se porte candidat à l'école des mitrailleurs allant à l'encontre de la décision du Ministère de l'Intérieur. Il passe sa visite médicale d'incorporation à l'école le 9 décembre 1939 sur la Base 117 d'Issy les Moulineaux. Il est déclaré inapte le lendemain pour un problème de vue. Il force alors le destin en exigeant une contre-visite à Tours, qui cette fois le déclare apte. Mais le Ministère de l'Intérieur le rattrape et l'oblige à conserver son poste de préfet d'où il s'emploie à assurer la sécurité de la population.

Il est arrêté en juin 1940 par les Allemands parce qu'il refuse d'accuser une troupe de tirailleurs sénégalais de l'Armée française d'avoir commis des atrocités envers des civils à La Taye, un hameau près de Saint-Georges-sur-Eure, en réalité victimes de bombardements allemands. Maltraité et enfermé pour refus de complicité avec les Allemands, il tente de se suicider en se tranchant la gorge avec un débris de verre. Il évite la mort de peu et en gardera une cicatrice qu'il cachera sous une écharpe.

En raison de ses idées républicaines marquées à gauche comme radical-socialiste, il est révoqué par le Régime de Vichy du maréchal Philippe Pétain le 2 novembre 1940 et placé en disponibilité. Il se met alors à la rédaction de son journal Premier combat où il relate sa résistance héroïque contre les nazis à Chartres de manière sobre et extrêmement détaillée (ce journal sera publié à la Libération et préfacé par le général de Gaulle).

Il s'installe dans sa maison familiale de Saint-Andiol (Bouches-du-Rhône) d'où, pressé par le besoin de « faire quelque chose » il s'impose deux buts : tout d’abord il veut se rendre compte de l’ampleur de la Résistance française et ensuite aller à Londres afin d’engager les pourparlers avec la France libre³.

En septembre 1941, il rejoint Londres en passant par l'Espagne et le Portugal, par ses propres moyens, sous le nom de Joseph Jean Mercier. Il est reçu par le général de Gaulle à qui il fait un compte rendu controversé de l'état de la Résistance en France et de ses besoins, notamment financiers et en armement. Son compte-rendu donnera lieu à de nombreuses contestations de la part des mouvements de résistance comme portant atteinte aux actions de renseignements au profit de l'armée britannique, au financement et à la fourniture d'armes au profit de chacun d'entre eux⁴.

Misant sur l'intelligence et les capacités de Jean Moulin, le général de Gaulle le charge d'unifier les mouvements de résistance et tous leurs différents services (propagande, renseignements, sabotage, entraide) sur le territoire français et notamment le plus important mouvement Combat dirigé par Henri Frenay, afin d'en faire une armée secrète des forces françaises libres complètement placée sous ses ordres. Avec des ordres de mission, des moyens financiers et de communication radio directe avec le général de Gaulle à Londres, il est parachuté dans les Alpilles dans la nuit du 1er janvier 1942 à 15 km de Saint-Andiol qu'il rejoint à pied. Il prend le pseudonyme évocateur de Rex dans la Résistance. Le 27 novembre 1942 est créé le Comité de coordination de Zone Sud à Collonges-au-Mont-d'Or dans le but de coordonner avec la mouvance communiste les trois mouvements principaux de résistance de la zone libre. Jean Moulin et ses alliés communistes cherchent - non sans mal - à y être prépondérant sur les trois chefs Henri Frenay (Combat), Emmanuel d'Astier de La Vigerie (Libération-Sud) et Jean-Pierre Lévy (Franc-Tireur).

Il utilise ensuite ses dons artistiques pour sa couverture de marchand d'art et ouvre la galerie d'art "Romanin" - pseudonyme d'artiste de Jean Moulin - au 22 rue de France à Nice. En février 1943, il retourne rendre compte de sa mission à Londres avec le général Delestraint, le chef de l'Armée Secrète communément choisi par les mouvements de résistance et par le général de Gaulle pour uniquement diriger leurs actions militaires sous l'ordre direct de ce dernier. Ceux-ci considèrent alors la reconnaissance du général de Gaulle et de son délégué unique Jean Moulin en tant que chefs politiques de la Résistance comme étant uniquement politique et donc prématurée.

En février 1943, Jean Moulin retourne à Londres rendre compte de sa mission au général de Gaulle qui le décore de la Croix de la Libération et le nomme secrètement comme ministre membre du Comité national français et seul représentant de ce Comité en métropole.

Il retourne en France le 21 mars 1943, sous le pseudonyme de Max, chargé de créer le CNR (Conseil national de la Résistance), tâche complexe, car il reste toujours mal reconnu par les mouvements de résistance. La première réunion en séance plénière du CNR se tient à Paris, 47 rue du Four, le 27 mai 1943.

Il parvient non sans mal à se faire admettre en tant que chef du CNR qui réunit les chefs de tous les groupes de résistance française. Le CNR représente alors l'unité des forces militaires secrètes françaises reconstituées aux yeux des alliés et la légitimité de la France et du général de Gaulle comme seul chef de cette armée et chef politique de la France.

Il favorise avec les mouvements communistes la création du grand maquis du Vercors également controversé par les mouvements de résistance⁵ comme étant trop important et trop vulnérable pour entreprendre efficacement des actions de guérilla. Ce maquis sera effectivement détruit par les forces nazies dans des conditions sanglantes début 1944.
Maison dont le locataire était le docteur Dugoujon à Caluire (69).

Il est arrêté à la suite d'une dénonciation supposée, ou d'une négligence de la part du résistant René Hardy, le 21 juin 1943 à Caluire-et-Cuire (Rhône), dans un pavillon de la banlieue de Lyon loué par le docteur Dugoujon, où se tenait une réunion avec les principaux chefs de la Résistance. Après avoir été identifié et interrogé par le chef de la Gestapo Klaus Barbie au Fort Montluc de Lyon, il est transféré à la Gestapo de Paris où il est torturé. Il meurt le 8 juillet 1943 aux environs de Metz, dans le train Paris-Berlin qui le conduisait en Allemagne pour être de nouveau interrogé.