وكان عليه السلام إذا فرغ من صلاة العشاء الآخرة سجد سجدة إلى قرب السحر، ثم يقوم فيصلي، وكان هارون يطلع عليه من قصره، فقال ليلة ليحيى بن خالد وهو عنده: أنظر هل ترى في ذلك الصحن شيئا؟ وأشار إلى الموضع الذي كان يسجد فيه فقام ونظر. فقال: أرى بياضا، ثم قال له قرب طلوع الفجر: أنظر هل ترى ذلك البياض ؟ فنظر فقال: لست أراه. فقال: ذلك يحيى بن عبد الله إذا فرغ من صلاة العتمة يسجد سجدة يبقى فيها إلى آخر الليل. قال يحيى: فقلت في نفسي: أنظر ويلك ألا تكون المبتلى به، ثم سلمه إلى يحيى بن خالد، وكان يحيى يتوفر عليه ويحسن إليه ولا يدع بابا من أبواب التقرب إليه إلا تبلغه، فقال له عليه السلام يوما: يا أبا علي إن لصاحبك فينا إرادة فإذا أمضاها فسلم إليه هذه الرقعة وأعطاه رقيعة مختومة، وحرج عليه أن لايناولها إياه في حال حياته.

ثم رده هارون إلى داره، وضيق عليه في الطعام والشراب حتى ضعف ضعفا شديدا، وكان هارون ربما دخل إليه وربما أخرجه إلى عنده ويهدده، ويطالبه بأن يسمي له أصحابه ومن بايعه فيمتنع من ذلك.

ثم سقاه السم فمات عليه السلام في حبسه ببغداد، وقيل: إنه خنق، وقيل: إنه لما خرب القصر المعروف بالقرار في فتنة محمد الملقب بالأمين أيام قتال المأمون له وجد ميتا بين اسطوانتين.

ولما ظهر موته دفع يحيى بن خالد الرقعة إلى هارون، فإذا فيها: " بسم الله الرحمن الرحيم، يا هارون، المستعدى قد تقدم، والخصم على الأثر، والحاكم لا يحتاج إلى بينة ".

Shafi 82