Nazab, Ubeyhu, Ayzar ve Eysamar adında dört evladı olan Harun , İsrailoğullarının nankörlükleri üzerine cenab-ı Hakkın kendilerini Tih çölünde kalmaya mahkum ettiği kırk senenin sonlarına doğru, Musadan birkaç sene veya bir rivayete göre üç sene evvel vefat etmiştir.
Allah Musaya vahy ederek; “Ben kardeşin Harunun ruhunu kabz edeceğim. Filan dağa gitmenizi istiyorum.” buyurdu. Bu ilahi emir üzerine; Musa, Harun aleyhimesselam ve oğulları bildirilen dağa doğru yürümeye başladılar. Şehirden uzaklaşıp, dağa vardıkları zaman, ışık saçan bir mağaraya girdiler. Mağara içinde; süslü, güzel işlemeli bir taht görüp, etrafında; “Bu eşsiz taht kimin bedenine uygun gelirse onundur” diye yazılı idi. Bunun üzerine Harun çıkıp yattı ve tam geldi. “Bu bana uygundur” dedi. Oradan inerken Azrail bir genç suretinde gelip; “Harunun ruhunu kabz etmek için geldim” dedi. Harun , Musa ve kendi oğullarıyla helalleşti. Musa a; “Oğullarımı hoş tutasın.” diye ona ısmarladı. O sırada Azrail ruhunu kabz etti. Musa , Harunun evladıyla birlikte cenaze namazını kılıp, o mağaraya defnettiler.
Harun ın vefatından sonra Musa geri dönüp, kavminin yanına geldi. Yanında Harun ın olmadığını gören İsrailoğulları, Musa a iftira edip; “Sen bizim Harunu çok sevdiğimizi anlayınca, hased ettin ve götürüp öldürdün.” dediler.
Onların bu çirkin sözleri karşısında, Musa ; “Size yazıklar olsun. Bana, kardeşimi öldürdüğümü söylüyorsunuz.” dedi. Fakat kavmi onun üzerine daha da düşüp, iddialarında ısrar ettiler. Musa iki rekat namaz kılıp Allaha dua etti ve Harunu onlara göstermesini diledi.
Allah, Harun ı içinde vefat ettiği taht ile birlikte onların görebilecekleri, yerle gök arasında bir yere indirdi. Onun, kardeşi Musa tarafından öldürülmediğini gösterdi. Aliden gelen rivayette de; Musa ve Harun (aleyhimesselam) birlikte dağa gittiler. Harun orada vefat etti. Harun ın vefatıyla ilgili başka rivayetler de vardır. Kabrinin nerede olduğu hususundaki rivayetler de çeşitlidir.