Rousset studierte zunächst Rechtswissenschaften an der Universität Genf und erwarb 1932 das Lizentiat. Danach studierte er Geisteswissenschaften an derselben Institution. 1938 schloss er sein zweites Studium im Fach Französische Literatur ebenfalls mit dem Lizentiat ab. Seine wichtigsten Lehrer waren Albert Thibaudet und Marcel Raymond. Von 1938 bis 1943 war Rousset Französischlektor an den Universitäten Halle und München und hatte dabei Umgang mit antinazistischen studentischen Widerstandsgruppen. Ab 1944 veröffentlichte er Übersetzungen und Aufsätze in der von Pierre Jean Jouve angeregten und von Pierrette und Pierre Courthion herausgegebenen Zeitschrift Lettres, die der Lyrik gewidmet war, aber sich auch dem Geist der Résistance verpflichtet fühlte. 1946 veröffentlichte er eine Übersetzung des Buches Hitler in uns selbst von Max Picard, das das Aufkommen des Nationalsozialismus in Deutschland zu erklären versucht. Von 1946 bis 1949 war Rousset mit einem Forschungsstipendium in Paris und arbeitete an seiner Dissertation über den Barock. In dieser Zeit erschienen seine Übersetzungen von deutschen Barockdichtern in Buchform. Ab 1949 war er Assistent von Marcel Raymond an der Universität Genf. Er promovierte 1953 mit einer Arbeit, die den kunsthistorischen Begriff des Barocks zur Beschreibung der Literatur des 17. Jahrhunderts legitimierte, und war von 1953 bis 1976 als Kollege von Marcel Raymond und ab 1962 Jean Starobinski Professor für französische Literatur an der Universität Genf. Als Gastprofessor unterrichtete er an den Universitäten Basel und Princeton. 1983 erhielt er den Prix de la Ville de Genève.
Jean Rousset: L’aventure baroque. Hrsg. von Michel Jeanneret. Zoé, Genf 2006, ISBN 2-88182-529-X (darin u.a. Jean Starobinski über Jean Rousset).
William Calin: Academic Criticism at its Best: Jean Rousset. In: Ders.: The Twentieth-Century Humanist Critics. From Spitzer to Frye. University of Toronto Press, Toronto 2007, S. 70–84.
Maxime Cartron: Jean Rousset. Traduire et compiler le baroque (= Courant critique Band 3). Vorwort von Thomas Hunkeler. Droz, Genf 2023, ISBN 978-2-600-06427-9.