Denildiğine göre, Abdülmelik döneminde Ömer bin Abdülazizin huzurunda Haccacın ve diğer valilerin yapmış oldukları zulümlerden söz edilmiş, Ömer de şöyle demişti. “Irakta Haccac, Şamda Velid, Mısırda Kurra, Medinede Osman ve Mekkede Halid… Allahım! Dünya zulüm ve haksızlıkla dolup taştı; artık sen bu insanlara rahat yüzü göster. ”
Aradan fazla bir zaman geçmeden Haccac ve KuTa bin Şerik aynı ayda vefat ettiler. Onların peşinden Velid öldü, Osman ve Halid azledildi. Böylece Allah Ömerin duasını kabul buyurdu.
Bu kıssa ibn Ömerin Ziyad bin Ebih ile olan kıssasına ne kadar da benziyor!
Ziyad, Muaviyeye bir mektup yazmış ve şöyle demişti: “Irakı sol elimle zapt etmiş bulunuyorum. Sağ elim ise boş bulunuyor.” Böylelikle Ziyad Hicaz emirliğini istediğini ima ediyordu. ibn Ömer bunu haber alınca şöyle demişti: “Allahım! Bizleri Ziyadın sağ elinden, Iraklıları da sol elinden kurtar.” Bundan sonra ibn Ömerin aldığı ilk haber Ziyadın ölümü olmuştu.
Haccac 95 yılının Şevval(M. Haziran-Temmuz 714) ayında öldü. Onun Ramazanın bitmesine beş gün kala (M. 13 Haziran 714) elli dört yaşında öldüğü de söylenmiştir. Öldüğünde yaşının elli üç olduğunu söyleyenler de vardır. Irak Valiliği yirmi yıl devam etmiştir. Ölümü yaklaştığında namaz kıldırmak üzere yerine oğlu Abdullahı, KUfe ve Basranın savaş komutanlığına ise Yezid bin Ebi Kebseyi, bu iki şehrin haracının tahsili için de Yezid bin Ebi Müslimi tayin etmişti. Velid bunların ikisini de görevlerinde bıraktı, Haccacdan sonra onları azletmediği gibi Haccacın tayin etmiş olduğu amillerin hiç birisini de değiştirmedi.