Tout d'abord en sa qualité de haut fonctionnaire, il a visité les camps de regroupement en 1958 et 1959, puis a produit un rapport sans complaisance qui ne fut pas reconnu officiellement mais dont Paul Delouvrier tenu le plus grand compte pour améliorer le sort déplorable de centaines de milliers d'Algériens, et , en premier lieu, leur apporter de la nourriture. C'est ainsi qu'on s'accorde à dire que grâce à Michel Rocard, des milliers d'enfants ont pu survivre.
Ensuite en tant que responsable politique, après avoir refusé la dérive colonialiste de la SFIO il la quitte pour fonder avec quelques responsables ( Daniel Mayer, Edouard Depreux, Alain Savary, Robert Verdier, Guy Desson ...) le Parti Socialiste Autonome qui deviendra une des composantes du PSU, le parti politique le plus en pointe contre la guerre d'Algérie.