Ali, o quarto califa ortodoxo (r. 656–661) e o primeiro imame xiita, foi assassinado durante a oração da alvorada em 28 de janeiro de 661, equivalente a 19 de Ramadã de 40 A.H.. Ele morreu em decorrência dos ferimentos cerca de dois dias depois de o dissidente carijita Abederramão ibne Muljame tê-lo atingido na cabeça com uma espada envenenada na Grande Mesquita de Cufa, localizada em Cufa, no atual Iraque. Tinha cerca de sessenta e dois anos de idade no momento de sua morte.
Ibne Muljame havia entrado em Cufa com a intenção de matar Ali, provavelmente como vingança pela derrota dos carijitas na Batalha de Narauã em 658. Em Cufa, encontrou dois cúmplices, a saber, Xabibe ibne Bujera e Uardane ibne Almujalide. Diferentemente de Ibne Muljame, as espadas desses dois erraram Ali, e eles fugiram, mas mais tarde foram capturados e mortos. Antes de morrer, Ali solicitou ou a aplicação rigorosa da lei de talião a Ibne Muljame ou o seu perdão; ainda assim, Ibne Muljame acabou sendo executado por Alhaçane, o filho mais velho de Ali. Segundo a maioria dos relatos, também esteve envolvido no assassinato Alaxate ibne Caice, o influente líder tribal de Cufa, cuja lealdade a Ali é frequentemente posta em dúvida nas fontes antigas. O assassinato de Ali abriu caminho para que seu rival Moáuia fundasse o Califado Omíada. O santuário de Ali em Najafe, perto de Cufa, é um importante destino de peregrinação para os xiitas.
As políticas controversas do terceiro califa, Otomão, resultaram em uma rebelião que levou ao seu assassinato em 656 d.C.. Ali, genro e primo do profeta islâmico Maomé, foi então eleito califa pelos habitantes de Medina e pelos dissidentes ali presentes. Ali recebeu ali um juramento de fidelidade quase unânime, reunindo em torno de si vários grupos socialmente desfavorecidos. Em contraste, encontrou apoio limitado entre a poderosa tribo dos coraixitas, alguns dos quais aspiravam ao título de califa. Entre os coraixitas, o califado de Ali logo foi contestado por Aixa, viúva de Maomé, e por dois de seus companheiros, a saber, Talha e Azobair. O primo de Otomão, Moáuia, também denunciou a ascensão de Ali quando foi destituído do cargo de governador da Síria. Passou então a exigir vingança contra os assassinos de Otomão.
Ali derrotou a rebelião de Aixa, Talha e Azobair na Batalha do Camelo em 656, mas a Batalha de Sifim contra Moáuia, em 657, terminou em impasse quando este último apelou à arbitragem pelo Alcorão para evitar a derrota. O forte sentimento pacifista no exército de Ali o compeliu a aceitar a proposta, e foi instituído um comitê de arbitragem malsucedido, com representantes de Ali e de Moáuia, encarregado de resolver a disputa no espírito do Alcorão. Contudo, ao retornar à sua capital, Cufa, um grupo de seus soldados criticou a arbitragem e acusou Ali de blasfêmia por deixar a questão ao arbítrio de dois homens. Muitos deles haviam anteriormente forçado Ali a aceitar a arbitragem, mas agora exclamavam que o direito ao julgamento pertencia somente a Deus. Muitos foram reconquistados por Ali, enquanto o restante se reuniu nas proximidades do Canal de Narauã, na margem oriental do rio Tigre. Após esse afastamento, passaram a ser conhecidos como cauarije (lit. "os que se separam"). Os carijitas denunciaram Ali como califa, declararam-no, a seus seguidores e aos sírios como infiéis. Declararam lícito (halal) o sangue desses infiéis e cometeram numerosos assassinatos, aparentemente sem poupar sequer mulheres. Ali os esmagou na Batalha de Narauã em 658, mas seus remanescentes e ramificações continuaram a espalhar terror por muitos anos.
Diversas fontes antigas relatam que Ali conhecia seu destino muito antes do assassinato, seja por premonição própria, seja por meio de Maomé, que lhe teria dito que sua barba seria manchada com o sangue de sua cabeça. Em particular, o historiador sunita Ibne Sade (m. 845) cita a tradição profética segundo a qual “o mais perverso entre os antigos foi aquele que matou a camela do profeta Salé, e entre seus contemporâneos, aquele que mataria Ali”. Na noite anterior ao assassinato, Ali previu que seu destino estava prestes a cumprir-se. Ao sair de casa pela manhã, gansos o seguiram, grasnando, e Ali comentou que eles choravam por ele.

Ali foi assassinado por Abederramão ibne Muljame, um dissidente carijita. Ibne Muljame pertencia, por linha paterna, à tribo himiarita e, por linha materna, à tribo muradita. Também mantinha vínculos com a tribo quindaíta. A narrativa mais difundida envolve Moáuia e seu governador do Egito, Anre ibne Alas, conforme relatado, entre outros, pelo historiador sunita Atabari (m. 923). Segundo essa versão, Ibne Muljame e dois outros carijitas encontraram-se em Meca após a peregrinação do Haje. Após longas discussões, concluíram que Ali, Moáuia e Anre eram responsáveis pela guerra civil em curso. Juraram matar os três e vingar seus companheiros caídos em Narauã. Em seguida, marcaram a data do assassinato e cada um escolheu sua vítima. As fontes divergem quanto aos nomes dos outros dois carijitas: aquele que pretendia matar Moáuia é apresentado como Alburaque ibne Abedalá ou Anazal ibne Amir; o que prometeu matar Anre aparece como Anre ibne Becre Atamimi, ou Omar ibne Bucair, ou Zadauai. O historiador Ali Bahramian considera essa narrativa logicamente falha e questiona a veracidade dos planos para matar Moáuia e Anre, enquanto o islamólogo Julius Wellhausen (m. 1918) igualmente a vê como uma fabricação. Para Laura Veccia Vaglieri (m. 1989), outra especialista, a narrativa é questionável, mas provavelmente deriva da tradição histórica comum, pois as variações nas fontes são pequenas em sua avaliação.
Ibne Muljame entrou em Cufa com planos de assassinar Ali. Ali encontrou ali dois cúmplices carijitas locais, a saber, Xabibe ibne Bujera e Uardane ibne Mujalide. Um ou ambos aparecem nas fontes antigas em conexão com o assassinato, e seus destinos às vezes são trocados. Segundo Atabari, Ibne Muljame encontrou em Cufa um grupo da tribo Taime Arribabe que lamentava seus parentes mortos em Narauã. Entre eles havia uma mulher chamada Catami, que impressionou Ibne Muljame por sua beleza. Ela aceitou sua proposta de casamento, com um dote que incluía o assassinato de Ali, e providenciou para que seu parente Uardane ajudasse Ibne Muljame na missão. Por sua vez, Uardane alistou a ajuda de Xabibe. Na noite anterior ao assassinato, os conspiradores posicionaram-se diante da porta por onde Ali entraria na mesquita.
Em 26, 28 ou 30 de janeiro de 661 (17, 19 ou 21 de Ramadã de 40 A.H.), quando Ali chegou à mesquita para conduzir a oração da alvorada, Ibne Muljame atacou e feriu Ali no alto da cabeça com uma espada envenenada, seja durante a oração, seja quando ele estava entrando na mesquita. A espada de Xabibe errou Ali, e ele fugiu, perdendo-se na multidão. Por ser carijita, foi mais tarde morto por aterrorizar civis. Uardane fugiu para sua casa, onde foi morto por um parente após confessar sua participação no assassinato. Ibne Muljame foi capturado no local pelo haxemita Almuguira ibne Naufal ibne Alharite, ou por Cutame ibne Alabas. Ali morreu cerca de dois dias depois, em consequência dos ferimentos, aos sessenta e dois ou sessenta e três anos de idade. Sua morte é anualmente comemorada pelos muçulmanos xiitas em 21 de Ramadã.
Antes de morrer, Ali havia solicitado que Ibne Muljame fosse executado em retaliação (qisas) caso não sobrevivesse, e seu desejo foi cumprido por seu filho mais velho, Alhaçane. Outros relatos afirmam que Ali, em vez disso, deixou essa decisão a cargo de Alhaçane, recomendando o perdão, pediu a seus homens que não amarrassem Ibne Muljame com demasiada força, e proibiu seus correligionários tribais de derramar o sangue de um muçulmano além da aplicação rigorosa da lei de talião, acrescentando que Ibne Muljame deveria receber boa alimentação, uma cama macia e proteção contra a humilhação pública. Ibne Muljame é frequentemente contado entre as fileiras carijitas e é muito elogiado na literatura carijita por ter assassinado Ali.
Frequentemente associado ao assassinato está Alaxate ibne Caice, o influente chefe da tribo quindaíta em Cufa. Como forte defensor da paz com os sírios, sua lealdade a Ali é posta em dúvida na maioria dos relatos. Moáuia de fato escreveu à elite de Cufa após Narauã, oferecendo-lhes status e riqueza em troca de sabotagem, ao passo que Ali se recusou, por princípio, a conceder-lhes quaisquer favores financeiros. Diversas fontes acusam Ibne Caice de ter ameaçado Ali de morte, de ter conhecimento do complô de assassinato ou de ter hospedado e aconselhado Ibne Muljame em Cufa antes do atentado. Uma exceção é um dos relatos do historiador sunita Almubarrade (m. 898), no qual Ibne Caice adverte o califa sobre o assassinato. Hujer ibne Adi, ardoroso partidário de Ali, teria acusado Ibne Caice de cumplicidade no assassinato, enquanto o abássida Almançor (r. 754–775), mais de um século depois, atribuiu o assassinato de Ali a (alguns de) seus próprios companheiros.
O corpo de Ali foi lavado por seus filhos Hasçane, Huceine e Maomé ibne Hanafia, e por um de seus sobrinhos, Abedalá ibne Jafar. Temendo que seu corpo pudesse ser exumado e profanado por seus inimigos, Ali foi então enterrado secretamente, o que também pode explicar as divergências nas fontes quanto ao local de seu sepultamento. Seu túmulo foi identificado durante o califado do abássida Harune Arraxide (r. 786–809), e a cidade de Najafe cresceu em torno dele, perto de Cufa, tornando-se um importante local de peregrinação para os muçulmanos, especialmente os xiitas. O santuário atual foi construído pelo xá safávida Safi (r. 1629–1642), nas proximidades do qual se estende um imenso cemitério destinado aos xiitas que desejam ser enterrados junto de seu imame. Najafe é também sede de importantes colégios religiosos e de proeminentes eruditos xiitas (ulemás). Muito provavelmente incorretas, existem, contudo, alegações de que Ali teria sido enterrado no Mausoléu do Imame Ali em Mazar e Xarife, localizado no atual Afeganistão.
Durante seu governo, Ali contou com um grupo fiel que o considerava o melhor dos muçulmanos depois de Maomé e o único legitimamente intitulado ao califado. Ainda assim, esse grupo permaneceu minoritário. Em vez disso, o que uniu os habitantes de Cufa após Ali foi a oposição à dominação síria ou ao governo arbitrário de seu arqui-inimigo Moáuia. Após o assassinato de Ali em janeiro de 661, seu filho mais velho, Alhaçane, foi então eleito califa em Cufa. Moáuia marchou pouco depois sobre Cufa com um grande exército, enquanto o exército de Alhaçane sofreu deserções em massa, facilitadas pela defecção de comandantes militares e chefes tribais comprados por Moáuia. Após uma tentativa frustrada contra sua vida, um Alhaçane ferido cedeu o poder em agosto de 661 a Moáuia, que fundou o Califado Omíada.