Mouloudji wuchs als Sohn eines Kabylen und einer Bretonin in Paris auf, wo er früh in Kontakt mit der Theater- und Filmszene kam. Mit elf Jahren wirkte er in seinem ersten Film mit. Neben seiner vielfältigen künstlerischen Ausbildung von Schauspiel bis Malerei entwickelte er schon in jungen Jahren politisches Engagement, geprägt durch seinen kommunistischen Vater. Nach ereignisreichen Jahren während des Zweiten Weltkriegs schrieb Mouloudji, gerade 20 Jahre alt, das Buch Enrico, seine Memoiren, für die er 1945 den Literaturpreis Prix de la Pléiade erhielt.
Seine Gesangskarriere begann Mouloudji als Interpret von Liedern und Gedichten von Boris Vian und Jacques Prévert. 1951 nahm er seine erste Schallplatte auf. 1952 und 1953 gewann er den Prix Charles-Cros und 1953 außerdem den Grand Prix du Disque. Zugleich hatte er auf der Leinwand große Popularität erlangt. 1954 wurde er für sein Mitwirken in Wir sind alle Mörder als bester ausländischer Darsteller für den British Film Academy Award nominiert.
Mouloudjis politisches Engagement führte während des Indochinakrieges zu einem ersten Rückschlag in seiner künstlerischen Karriere. Als überzeugter Pazifist hatte er Boris Vians Chanson Le déserteur in sein Programm aufgenommen und sang es an dem Tag, an dem Frankreich in der Schlacht um Điện Biên Phủ geschlagen wurde. Die Öffentlichkeit reagierte empört und rief nach Zensur. Le déserteur wurde fortan von den Radiostationen boykottiert.
Obwohl weiterhin künstlerisch und politisch aktiv, konnte Mouloudji in den 1960er und 1970er Jahren nicht an seine frühen Erfolge anknüpfen. 1966 eröffnete er einen Friseursalon und widmete sich verstärkt der Malerei und dem Schreiben. Am 14. Juni 1994 starb Marcel Mouloudji in Neuilly-sur-Seine (Département Hauts-de-Seine) und fand auf dem Friedhof Père-Lachaise (Division 42) seine letzte Ruhestätte. Seine letzten Pläne, die Fortführung seiner vor 50 Jahren erschienenen Memoiren und ein neues Album, blieben unvollendet.
Mouloudjis Tochter Annabelle machte unter ihrem Vornamen ebenfalls eine kurze Karriere als Sängerin und Schauspielerin.
Die multikulturellen Einflüsse in seinem Leben besang er in seinem Chanson Auto-Portrait:
«Catholique par ma mère / Musulman par mon père / Un peu juif par mon fils / Bouddhiste par principe / […] Athée, oh grâce à Dieu»
„Katholik durch meine Mutter / Muselmann durch meinen Vater / Ein bisschen Jude durch meinen Sohn / Buddhist aus Prinzip […] / Atheist, oh Gott sei Dank“
– Mouloudji:Auto-Portrait
Ehrungen
Der Square Marcel Mouloudji im 19. Arrondissement in Paris wurde auf Wunsch der Anwohner nach ihm benannt.
École Marcel Mouloudji in Suresnes (Département Hauts-de-Seine) trägt seinen Namen.