Ликвидация Хусейна не положила конец борьбе за халифат, поскольку ее вели три стороны. Абдуллах Ибн аз-Зубайр, отец которого безуспешно оспаривал право на халифат с Али, теперь открыто выступил против Язида. Фактически он был одним из тех, кто поддержал Хусейна в его опасной авантюре, а теперь Хиджаз провозгласил его повелителем правоверных (амир аль-муминин). Не медля, Язид направил против мединских диссидентов карательные силы, в которых служило немало сирийцев-христиан. Возглавлял их одноглазый Муслим ибн Укба, которому из-за преклонного возраста приходилось передвигаться на носилках. Бой завязался 26 августа 683 года, и победу в нем одержали сирийцы. То, что три дня неуправляемая дамасская солдатня грабила город Пророка, – апокриф. Ибн аз-Зубайр нашел убежище в Мекке, земля которой считалась неприкосновенной, и Муслим преследовал его. По дороге сирийский военачальник умер, и его сменил Хусейн ибн Нумайр ас-Сакуни, одна из стрел которого в Кербеле попала в рот Хусейну, когда тот пил. Хусейн без колебаний направил свои катапульты на Харам (святую мечеть). Сама Кааба загорелась и сгорела дотла. Черный камень, священная реликвия и доисламского, и исламского периода, треснул и развалился натрое. Дом Аллаха выглядел «как разодранная грудь рыдающей женщины». Между тем скончался Язид, и действия, начавшиеся 24 сентября 683 года, были приостановлены 27 ноября.

Смерть Язида и внезапный вывод сирийских войск с арабской земли повысили шансы ибн аз-Зубайра. После этого его провозгласили халифом не только в его родном Хиджазе, но и в Ираке, в Южной Аравии и даже в некоторых частях Сирии. В Ираке он поставил своим наместником брата Мусаба. В Сирии временным правителем назначил ад-Даххака ибн Кайса аль-Фихри, вождя партии кайситов (северноаравийцев), с самого начала настроенной против Омейядов. Йемениты (южноаравийцы), в том числе кальбиты, объединились в поддержке престарелого законного халифа Марвана ибн аль-Хакама и нанесли сокрушительное поражение ад-Даххаку и его сторонникам. Это произошло в июле 684 года у Марджа-Рахита, на равнине к северо-востоку от Дамаска. Мардж-Рахит стал еще одним Сиффином для Омейядов. Это событие ознаменовало конец третьей гражданской войны в исламе, которая, как и вторая – между Муавией и Али, была войной династий. Что же касается внутренней вражды между кайситами, представляющими новых эмигрантов из Северной Аравии, и кальбитами, упорными приверженцами Омейядов, то она затянулась и в конечном итоге ускорила падение династии. Партии кайситов и йеменитов фигурировали даже в современной политике Ливана и Сирии.