قال الحاكم: سمعت الأصم وقد خرج ونحن في مسجده وقد امتلأت السكة من الناس في ربيع الأول سنة أربع وأربعين وثلاثمائة، وكان يملي عشية كل يوم اثنين من أصوله، فلما نظر إلى كثرة الناس والغرباء وقد قاموا يطرقون له ويحملونه على عواتقهم من باب داره إلى مسجده فجلس على جدار المسجد وبكى طويلًا ثم نظر إلى المستملي فقال: اكتب: سمعت مُحَمَّد بن إسحاق الصغاني يقول: سمعت الأشج، سمعت عبد الله بن إدريس يقول: "أتيت يومًا باب الأعمش بعد موته فدققت الباب فأجابتني جارية عرفتني: هاي هاي تبكي يا عبد الله ما فعل جماهير العرب التي كانت تأتي هذا الباب، ثم بكى الكثير ثم قال: كأني بهذه السكة لا يدخلها أحد منكم فإني لا أسمع وقد ضعف البصر وحان الرحيل وانقضى الأجل، فما كان إلا بعد شهر أو أقل منه حتى كف بصره وانقطعت الرحلة وانصرف الغرباء فرجع أمره إلى أنه كان يناول قلمًا فيعلم أنهم يطلبون الرواية فيقول: حدثنا الربيع، وكان يحفظ أربعة عشر حديثًا وسبع حكايات فيرويها، وصار بأسوأ حال حتى توفي.