وكان معه يوم وفاته ابنه محمد، فكان يوصيه بأحسن الوصية ويذكر الله سبحانه، ويقول: يا بني، هذا يوم ألقى الله فيه، ولقد رجوت أن يبلغني الله الأمل في جهاد الظالمين ومنابذة الفاسقين، والله غالب على أمره. فقال له ابنه محمد: بل يبلغك الله أملك، ويتم نعمته عليك.

قال محمد بن يحيى عليه السلام: وهو في خلال ذلك جالس لم تتغير جلسته، غير أن الصفرة تعتليه قليلا قليلا، وهو يذكر الله ويمجده، ثم أدنى برأسه وخفي صوته، فقام إليه محمد بن يحيى فأضجعه فإذا هو قد فارق الحياة رحمه الله ورضي عنه فرفع محمد صوته ب: لا حول ولا قوة إلا بالله العلي العظيم.

ثم قال: ما أطيب رائحتك والله، وأشبهك برسول الله عليه السلام.

ثم شاع موت يحيى عليه السلام فجأر الناس بالبكاء والنحيب، وارتجت البلد، واستوى في الحزن عليه عدوه وصديقه، واجتمع الناس إلى باب داره عليه السلام فخرج إليهم محمد بن يحيى عليه السلام فوعظهم وذكرهم بالله سبحانه وعزاهم في الإمام الهادي إلى الحق وعزوه فيه، وبكى محمد بكاء شديدا، وقال متمثلا:

مخ ۱۸۰