Apja Raffy Ádám orvos, író, bátyja Réz Ádám műfordító. 1944-ben a nagyváradi gettóból családjával Romániába szökött, ahol internálótáborba kerültek. 1947-ben Budapestre költöztek; Réz Pál beiratkozott a budapesti egyetem magyar–francia szakára (professzora Gyergyai Albert volt), az Eötvös Collegium diákja lett, de 1948-ban többekkel együtt kicsapták. 1951-től a Szépirodalmi Könyvkiadó szerkesztőjeként dolgozott, egyetemi tanulmányait munka mellett fejezte be 1954-ben.

Sajtó alá rendezte Kosztolányi Dezső összes műveit (1969–1975), továbbá Déry Tibor, Ottlik Géza, Örkény István, Vas István, Tersánszky Józsi Jenő műveit gondozta, jegyzeteket, tanulmányokat írt.

1953. január 20-án vette feleségül Pallos Klárát (1929–1984), egy gyermekük született, Réz Mihály fotóművész.

Fontosabb művei közé sorolható még a Szomory- és az Apollinaire-monográfia, André Gide-, Kundera-, Semprún-fordításai. A Holmi főszerkesztője volt 1989-től 2014 végéig, a lap megszűnéséig. Többek között József Attila- és Széchenyi-díjas.

A Magvető Kiadó újrainduló Tények és Tanúk sorozatának első kötete, a Parti Nagy Lajossal közösen írt Bokáig pezsgőben nagy sikert aratott, néhány hónap leforgása alatt három kiadást ért meg.