Apelidado de El Muñeco, Gallardo começou sua carreira de jogador na temporada 1992–93 com o River Plate. O meia conquistou três Torneios Apertura (93, 94 e 96), um Torneio Clausura (1997) e uma Copa Libertadores em 1996.
A primeira boa passagem dele com Los Millonarios durou até a temporada 1998–99. Até lá ele havia disputado 162 jogos oficiais, tendo marcado 27 gols.
Monaco
Em 1999, transferiu-se para o Monaco. Na sua primeira temporada na Europa, Gallardo provou seu valor e jogou 28 partidas, marcando oito gols e formando uma dupla fatal com Ludovic Giuly no meio-campo.
Porém, na sua terceira temporada, as coisas não foram muito bem. Gallardo estava descontente com o treinador Didier Deschamps depois de ter ficado no banco na metade da temporada 2000–01. Seguindo os exemplos de Panucci e Marco Simone, Gallardo decidiu deixar o clube no final da temporada.
Retorno ao River Plate
Depois de jogar 127 partidas e marcar 23 gols pelo Monaco, Gallardo retornou ao seu antigo clube como capitão do time. Ajudou sua equipe a ganhar outro torneio Clausura em 2004.
Seu contrato era válido até o final da temporada 2005–06.
Paris Saint-Germain
Em janeiro de 2007, Marcello Gallardo assinou por dois anos com o Paris Saint-Germain. Estreou no dia 7 de janeiro, na vitória por 3 a 0 em cima do Nîmes, pela Copa da França.
Em 2009, retornou ao River Plate. No dia 13 de maio de 2010 anunciou o fim do seu ciclo nos Millonarios.
Nacional
No dia 14 de agosto de 2010, acertou com o Nacional do Uruguai. Em sua segunda partida, contra Bella Vista, Gallardo sofreu uma grave lesão no joelho direito, ficando quase cinco meses fora dos gramados.
Em fevereiro de 2011, Gallardo retorna aos gramados, justamente contra o Bella Vista. Marcou seu primeiro gol pelo Nacional contra o Miramar Misiones, em partida válida pelo Torneio Clausura do Uruguai. Conquistou o Campeonato Uruguaio dessa temporada e, nesse mesmo ano, encerrou a carreira como jogador.
No dia 4 de julho de 2011, Gallardo iniciou sua carreira de treinador sendo anunciado oficialmente pelo Nacional, do Uruguai. Realizou sua estreia oficial no dia 14 de agosto, num empate em 3 a 3 contra o River Plate-URU, em jogo válido pelo Campeonato Uruguaio. El Muñeco manteve o bom desempenho da equipe e levantou seu primeiro título como técnico na mesma temporada, sagrando-se campeão do Campeonato Uruguaio. Após a conquista, no entanto, Gallardo anunciou em junho de 2012 que não comandaria mais o Nacional na próxima temporada, deixando a equipe por conta de questões familiares.
River Plate
Foi anunciado como treinador do River Plate no dia 6 de junho de 2014, iniciando assim um novo ciclo no clube em que mais atuou como jogador. No mesmo ano conduziu a equipe à conquista da Copa Sul-Americana, com o River superando o Atlético Nacional na final.
Já no dia 11 de fevereiro de 2015, conquistou a Recopa Sul-Americana ao vencer as duas partidas disputadas contra o rival San Lorenzo, ambas por 1 a 0. No dia 26 de março, conquistou a 1ª edição da Supercopa Euroamericana, um torneio de futebol amistoso criado pela equipe americana de televisão DirecTV, ao vencer por 1 a 0 sobre o Sevilla. Na noite de 6 de agosto de 2015, Muñeco conquistou a Copa Libertadores da América. Enfrentando a equipe mexicana do Tigres, a equipe de Gallardo empatou em 0 a 0 a primeira partida no México, mas no Monumental de Nuñez venceu por 3 a 0, sendo este o terceiro título do River.
O treinador voltou a conquistar a competição em 2018, na "La Gran Final" contra o Boca Juniors; no primeiro jogo, na Bombonera, empate por 2 a 2. Já no segundo jogo, no Santiago Bernabéu, vitória do River por 3 a 1 na prorrogação (1 a 1 no tempo regulamentar). Com o título, Gallardo tornou-se o quinto argentino a vencer a Copa Libertadores como jogador e como treinador, ao lado de Humberto Maschio, Roberto Ferreiro, José Omar Pastoriza e Nery Pumpido. No dia 23 de outubro, houve uma festa no Monumental de Nuñez quando o River Plate enfrentou o Grêmio, devido aos cinco anos do treinador. Nas redes sociais, os torcedores criaram a hashtag #5añosDeGallardo.
Em 13 de outubro de 2022, Gallardo fez um pronunciamento para comunicar sua saída do River Plate após oito anos. O treinador anunciou que continuaria no clube até o final do contrato, em dezembro, mas logo depois deixaria a equipe.
Al-Ittihad
Anunciado pelo Al-Ittihad, da Arábia Saudita, em novembro de 2023, Marcelo Gallardo permaneceu no clube árabe até maio de 2024, quando foi demitido por conta de maus resultados.
Retorno ao River Plate
Em 5 de agosto de 2024, o River Plate anunciou a volta de Gallardo ao comando da equipe.
Entretanto, o clube argentino não retomou seus tempos de glória na primeira passagem. Em 2025, o River Plate encerrou o ano sem títulos e ficou fora da Libertadores. Em 2026, em virtude dos maus resultados (2 vitórias em 6 jogos no Campeonato Argentino), o treinador anunciou sua demissão.
No dia 27 de maio de 2023, foi homenageado pelo River Plate e recebeu uma estátua de bronze nas redondezas do Estádio Monumental de Nuñez. Medindo oito metros e pesando sete toneladas, a escultura demorou quatro anos para ser finalizada. Grande ídolo do clube argentino, Gallardo é o treinador com mais títulos da história do River, com 14 troféus conquistados.
Títulos como jogador
River Plate
Campeonato Argentino: 1993 (Apertura), 1994 (Apertura), 1996 (Apertura), 1997 (Apertura), 1997 (Clausura) e 2004 (Clausura)
Equador
