İslam ilk halifelikler döneminde ayrılmaya başlamıştır. Biad'ın peygamber tarafından damadı Hz Ali'ye verilmesi fakat önce Hz Ebubekirin seçilip kısa sürede ölümü üzerine sırasıyla Hz. Ömer ve Hz. Osman'ın gelmesi ve ikisinin de öldürülmesi sonrası Hz. Ali halife olmuş fakat Muaviye'nin halifeliği Ali'den alması üzerine İslam Sünni'lik ve Ali taraftarlarının oluşturduğu Şii'lik bölümünlerine ayrılmış ve daha sonra bu iki bölüme ait çeşitli imamların görüş ayrılıkları ile mezhepler oluşmuştur.
Daha ileri tarihte ise bu iki bölümden ayrı Haricilerin oluşması İslam mesheplerinin sınıflandırılmasını 3 ana dala yükseltmiştir.
Hz. Ömer ve Hz Osman'ın cinayetlerini Ali'nin yaptırdığı iddiları iki büyük mezhebin aralarının açılmasının en önemli nedenidir.