Seuraura
Juniorivuodet ja ensimmäiset miesten pelit
Kempe on Kramfors-Alliansenin kasvatti. Hän siirtyi juniorina sittemmin Modon paitaan. Kempe oli kaudella 2005–2006 seuran J20-joukkueen paras maalintekijä ja toiseksi paras pistemies tehoilla 20+12=32. QMJHL-joukkue St. John's Fog Devils varasi hänet 31. pelaajana CHL:n varaustilaisuudessa 2006. Kempe teki pian varauksensa jälkeen sopimuksen joukkueen kanssa ja nousi Fog Devilsin varakapteeniksi kaudella 2006–2007. Hän oli tehoilla 23+19=42 joukkueen toiseksi paras maalintekijä ja neljänneksi paras pistemies.
Philadelphia Flyers varasi Kempen viidennellä kierroksella 122. pelaajana NHL:n varaustilaisuudessa 2007. Kaudella 2007–2008 hän oli St. John's Fog Devilsin QMJHL-joukkueen toiseksi paras maalintekijä ja kolmanneksi paras pistemies tehoilla 25+24=49. Pudotuspeleissä Kempe jakoi joukkueen sisäisen maalipörssin voiton Jean-Simon Allardin kanssa neljällä osumallaan. Kaudeksi 2008–2009 hän palasi kotimaahansa ja siirtyi vuoden mittaisella sopimuksella Elitserienin nousijajoukkue Röglen riveihin. Kempe teki Elitserien-debyyttinsä runkosarjan neljännellä kierroksella 25. syyskuuta 2008 vieraissa Luulajaa vastaan. Hänet merkittiin Röglen 13. hyökkääjäksi. Ensimmäisen Elitserien-maalinsa Kempe teki 9. lokakuuta 2008 Djurgårdenia vastaan. Hän teki tulokaskautensa aikana 30 runkosarjaottelussa tehot 2+8=10, kunnes Kempe siirtyi joulukuussa loppukaudeksi sarjatasoa alemmas HockeyAllsvenskan-joukkue Moraan. Allsvenskan-kauden jälkeen Kempe siirtyi loppukevääksi amatööritryout-sopimuksella AHL-joukkue Philadelphia Phantomsin vahvuuteen.
Läpimurto pääsarjatasolle
Kaudeksi 2009–2010 Kempe palasi kaksivuotisella sopimuksella Rögleen. Hänen ensimmäinen kokonainen Elitserien-kautensa toi 51 runkosarjaottelussa tehot 7+11=18. Rögle ajautui Kvalserieniin, jonka maalipörssin Kempe voitti ja jakoi joukkueensa sisäisen pistepörssin voiton Simon Hjalmarssonin ja Mattias Sjögrenin kanssa tehoilla 7+2=9. Rögle putosi kauden päätteeksi kuitenkin Allsvenskaniin, eikä Kempe jatkanut joukkueessa enää toista sopimuskauttaan, vaan siirtyi kaudeksi 2010–2011 jatkamaan Elitserien-uraansa kaksivuotisella sopimuksella Djurgårdeniin. Hän oli kymmenellä osumallaan joukkueen kolmanneksi paras maalintekijä Daniel Widingin kanssa. Kaudella 2011–2012 Kempe jakoi Kvalserienissä Djurgårdenin sisäisen pistepörssin voiton Andreas Holmqvistin kanssa tehoilla 2+5=7. Joukkue putosi kuitenkin kauden päätteeksi Allsvenskaniin.
Kempe palasi kaudeksi 2012–2013 kaksivuotisella sopimuksella hänen juniorivuosiltaan tutun Modon paitaan. Hän oli 15 osumallaan joukkueen toiseksi paras maalintekijä Per-Åge Skrøderin jälkeen.
NHL-sopimus Arizona Coyotesiin
Toukokuussa 2017 Kempe teki rajoittamattomana vapaana agenttina vuoden mittaisen ja kaksisuuntainen NHL-sopimuksen Arizona Coyotesin kanssa. Syksyn harjoitusleirin päätteeksi seura lähetti hänet AHL-joukkue Tucson Roadrunnersiin, mutta kuusi päivää myöhemmin Coyotes nosti hänet NHL-vahvuuteensa. Kempe teki NHL-debyyttinsä kauden 2017–2018 kolmannella kierroksella 10. lokakuuta 2017 vieraissa Vegas Golden Knightsia vastaan. Hän sai ottelussa jääaikaa 12.01 minuuttia. Kempe sai myös yhden kahden minuutin jäähyn estämisestä. Hän teki NHL-uransa avausmaalin kolmannessa ottelussaan 14. lokakuuta 2017 vieraissa Boston Bruinsia vastaan. Kempe valittiin ottelun kolmostähdeksi. Marraskuussa hänet lähetettiin takaisin farmiin, mutta kutsuttiin sieltä ylös joulukuussa. Kempe pelasi NHL:ssä kauden aikana 18 runkosarjaottelua tehopistein 2+2=4, kunnes tammikuussa 2018 hänet lähetettiin jälleen AHL:ään, jossa Kempe pelasi kauden loppuun. Hän pelasi farmissa runkosarjan aikana kaikkiaan 47 ottelua tehopistein 18+19=37. Pudotuspeleissä Kempe pelasi yhdeksän ottelua tehopistein 4+3=7. Hän oli Roadrunnersin paras maalintekijä.
Kempe teki toukokuussa 2018 Arizona Coyotesin kanssa vuoden mittaisen ja kaksisuuntaisen jatkosopimuksen. Lokakuussa seura asetti hänet siirtolistalle. Kun mikään toinen NHL-seura ei napannut Kempeä vuorokauden kuluessa, hänet lähetettiin farmiin. Kempe nostettiin Coyotesin NHL-vahvuuteen marraskuussa. Hän pelasi suurimman osan kaudestaan NHL:n puolella tehden 52 runkosarjaottelussa tehot 4+5=9. Kempe lähetettiin marraskuussa kolme kertaa AHL:ään, jossa hän pelasi kauden aikana kymmenen ottelua.
Sopimus Los Angeles Kingsiin ja paluu KHL:ään
Heinäkuussa 2019 Kempe teki vuoden mittaisen, kaksisuuntaisen ja 700 000 dollarin arvoisen sopimuksen Los Angeles Kingsin kanssa. Seuraa edusti myös hänen pikkuveljensä Adrian Kempe. Syyskuun lopulla seura lähetti Mario Kempen siirtolistan kautta AHL-joukkue Ontario Reignin vahvuuteen. Hän pelasi siellä kokonaan alkukauden 2019–2020, kunnes marraskuussa Kings asetti Kempen ehdottomalle siirtolistalle, jonka läpäistyään hänen sopimuksensa purettiin. Seuraavana päivänä Kempen uutisoitiin siirtyvän kevääseen 2021 ulottuvalla sopimuksella KHL-seura TsSKA Moskovaan.
Kempe oli alkukauden 2020–2021 sivussa loukkaantumisen vuoksi, kunnes hän palasi kaukaloihin lokakuussa 2020. Tammikuussa 2021 Kempe loukkaantui uudelleen. Hän palasi pelikuntoon pudotuspeleissä. Kaudeksi 2021–2022 Kempe siirtyi jatkamaan KHL-uraansa vuoden mittaisella sopimuksella valkovenäläiseen Dinamo Minskiin.
Paluu SHL:ään
Marraskuussa 2022 Kempe palasi kotimaahansa ja siirtyi kevääseen 2024 asti ulottuvalla sopimuksella Luulajan riveihin oltuaan ilman sopimusta alkukauden 2022–2023. Hän pelasi siellä 11 ottelua, kunnes Kempe joutui sivuun polvivamman vuoksi. Hän palasi kaukaloihin viiden ottelun tauon jälkeen helmikuussa 2023, mutta Kempen polvi ei kuitenkaan kestänyt pelaamista ja vamma vaati leikkaushoitoa. Hänen kautensa päättyi tähän. Kaudella 2023–2024 Kempe pelasi Luulajassa 22 ottelua tehopistein 5+3=8, kunnes joulukuussa 2023 hän ilmoitti haluavansa pois seurasta ja jäi pois joukkueen vahvuudesta. Kempe ei omien sanojensa mukaan voinut hyvin Luulajassa. Lähtöhuhut nostivat hänet myös osasta seuran kannattajista epäsuosioon ja Kempestä avattiin myös banderolli Luulajan ottelussa, jossa hänet julistettiin persona non garataksi eli ei-toivotuksi henkilöksi. Seura tuomittiin tapauksesta 10 000 kruunun sakkoihin. Tammikuussa 2024 Kempe siirtyi loppukaudeksi Sveitsin National Leaguessa pelaavan HC Luganon riveihin.
Ruotsi
