مبني بالحجارة عن رجاء بن حياة كتب الوليد إلى عمر وكان قد أشترى الحجرات أن أهدمها ووسع بها المسجد فقعد عمر في ناحية ثم أمر بهدمها فما رأيت أكثر باكيا من يومئذ ثم بناها كما أراد فلما هدم البيت الأول ظهرت القبور الثلاثة وكان الرمل الذي عليها قد أنهار وذكر آمره بمزاحم مولاه لإصلاحها بعد أن أراد أن يقوم فيسويها بنفسه وليحيى وأبن زبالة عن عبد الله بن محمد بن عقيل كنت أخرج كل ليلة من آخر الليل حتى أتي المسجد فأبدأ بالنبي ﷺ فأسلم عليه ثم أتي مصلاي فخرجت في ليلة مطيرة حتى إذا كنت عند دار المغيرة بن شعبة لقيتني رائحة لا والله ما وجدت مثلها قط فجئت المسجد فبدأت بالقبر فإذا جداره قد انهدم من المشرق كما في رواية غيره فدخلت فسلمت فلم ألبث أن سمعت الحس فإذا عمر بن عبد العزيز فأمر به فستر بالقباطي فلما أصبح دعا وردان البناء فدخل فكشف فقال لابد من رجل فكشف عمر ساقه ليدخل فكشف القاسم بن محمد فكشف سالم بن عبد الله فقال عمر ما لكم قالوا ندخل معك فقال والله لا نؤذيهم بكثرتنا اليوم