Ali ibn Abu Talib był drugim nawróconym na islam. Ali, syn wuja Mahometa, Abu Taliba, poślubił swoją kuzynkę Fatimę, córkę proroka Mahometa. Ali i Fatima mieli dwóch synów, Hassana i Husajna, którzy obaj odegrali kluczową rolę w historii społeczeństwa islamskiego. Ali też odważnie walczył w bitwach między małą społecznością muzułmańską z siedzibą w Medynie a siłami mekkańskimi przed triumfalnym powrotem Proroka do Mekki.
Ze względu na jego rodzinny związek z Mahometem wielu zwolenników Alego uważało, że powinien on zostać następcą Mahometa. Chociaż Prorok nie wyznaczył następcy, niektórzy sojusznicy Alego twierdzili, że Mahomet potajemnie wybrał Alego, aby rządził społecznością islamską po jego śmierci. Jednak po pewnej debacie większość muzułmańska wybrała Abu Bakra na nowego przywódcę, czyli kalifa. Wielu członków potężnego klanu Umajjadów przeciwstawiło się Alemu, a on także walczył z A’iszą, ulubioną żoną Proroka. Tak więc, kiedy wybrano kolejnych dwóch kalifów, Ali został ponownie pominięty jako przywódca społeczności islamskiej.
W 656 zbuntowani żołnierzy lojalni wobec Alego zamordowali trzeciego kalifa, Uthmana, członka rodziny Umajjadów i ogłosili Alego czwartym kalifem. Ale Muaw’iya, potężny gubernator Syrii Umajjadów, publicznie skrytykował Alego za to, że nie ścigał zabójców Uthmana. A’isza stanęła po stronie Umajjadów i skierowała siły przeciwko Alemu. Ale została pokonana i zmuszona do powrotu do domu. Czując się zagrożony w Mekce – twierdzy Umajjadów – Ali i jego sojusznicy przenieśli się do Kufa, w obecnym Iraku. Zwolennicy Alego byli znani jako Shi’i, czyli partia Alego. Ten rozłam miał stać się główną i trwałą przepaścią w społeczności muzułmańskiej. W przeciwieństwie do schizmy między katolikami i protestantami w chrześcijaństwie, podział wśród muzułmanów nie dotyczył kwestii teologicznych, ale tego, kto powinien rządzić wspólnotą. Większość, ortodoksyjni sunnici, wierzyła, że rządzić może każdy pobożny i prawy muzułmanin. Szyici argumentowali, że linia przywództwa powinna przebiegać przez Fatimę i Alego oraz ich potomstwo jako najbliżsi krewni Proroka.
Syryjczycy nigdy nie zaakceptowali przywództwa Alego, a obie strony starły się w przedłużającej się bitwie pod Siffin, w pobliżu rzeki Eufrat w 657 roku. Kiedy żadna ze stron nie wygrała ostatecznie, słynny muzułmański dowódca wojskowy Amr ibn al-As wynegocjował kompromis. Kharijici (niewielka grupa radykałów, którzy odrzucili życie w mieście i wierzyli, że Bóg powinien wybrać najbardziej pobożnego muzułmanina na przywódcę) byli oburzeni dyplomacją Amra, elitarnością i bogactwem Mu’awiyi oraz niezdecydowaniem Alego. Zgodnie z tradycją wymyślili spisek mający na celu zabicie wszystkich trzech podczas piątkowych modlitw. Ataki na Amr i Mu’awiya nie powiodły się, ale Kharijitom udało się zadźgać Alego na śmierć w meczecie w Kufa w 661 roku. Grób Alego w Nadżafie, na południe od dzisiejszego Bagdadu, pozostaje głównym miejscem pielgrzymek szyickich. Po śmierci Alego, jego najstarszy syn, Hasan, zgodził się zrzec się roszczeń do kalifatu i spokojnie udał się na emeryturę do Medyny
Potomkowie Alego, a także inni potomkowie Mahometa są znani jako Sajjidzi, lordowie, szlachta, tytuły szacunku używane zarówno przez sunnitów, jak i szyickich muzułmanów. W różnych sektach szyickich Ali jest czczony jako pierwszy imam i pierwszy kalif wybrany w sposób zgodny z prawem muzułmańskim.