Yezid döneminde Şamlılar Mekkeye hücum edince Kabe yanmış, ibn ez-Zübeyr de Şam halkını kötülemek gayesiyle olduğu gibi bırakmıştı. Yezid ölüp ibn ez-Zübeyr de bir dereceye kadar işleri ele geçirince Kabeyi bina etme işine başladı. Yere varıncaya kadar yıkılmasını emretti, çünkü duvarları mancınıklarla atılan taşlar dolayısıyla hafif yatmıştı. Hacer-i Esvedi alıp yanında sakladı. Tavaf etmek isteyenler temellerin arka tarafından tavaf ediyorlardı. ibn ez-Zübeyr bu yeniden inşa sırasında Kabenin etrafına bir sur çevirdi ve Hicri Kabenin içerisine aldı. Bu konuda da Resulallahın Ayşeye söylediği şu sözleri delil olarak göstermişti: “Şayet senin kavminin küfrü bırakması yeni olmasaydı, Kabeyi ibrahimin temellerine kadar indirir ve oraya Hicri eklerdim.”
ibn ez-Zübeyr bu sur için hafriyata devam edince deve büyüklüğünde taşlar buldu. Çıkan bu taşlardan iri bir parçayı hareket ettirince bir şimşek çaktı. Bunun üzerine ibn ez-Zübeyr: “Onu temeli ve yapısının eski hali üzere bırakınız.” dedi.
Bu arada birinden girilip öbüründen çıkılacak şekilde Kabeye iki tane de kapı yaptı.
Kabenin bu tamiratının altmış dört yılında olduğu da söylenmiştir.