وكانت مدة ولايته سنتين وتسعة أشهر، فصرف بعزل أخيه هارون. ثم أعيد هارون في جمادى الآخرة سنة سبع عشرة، فعاد أبو عثمان إلى النظر في الحكم. وركب إلى الجامع وقرئ كتابه وقام الأمير تكين بحقه. قال ابن زولاق: وجرت في ولايته أبي عثمان حوادث، منها: أنه ورد عليه كتاب من بغداد بتوريث ذوي الأرحام، وكان لشدة حيائه لا يفهم أكثر كلامه، فجرت بسبب ذلك أمور. قال ولقد حدثني أبو الطاهر الذُّهلي أنه لما حج كان يلبي فلا يسمع صوته، بل كان النساء يرفعن أصواتهن بالتلبية أجهر منه لشدة خجله. فلم يزل حتى صرف أخوه في ربيع الآخر سنة عشرين. فصرف هو أيضًا. وكانت ولايته الثانية سنتين وتسعة أشهر، ثم ورد عليه كتاب القاهر من بغداد بتوليته استقلالًا، وذلك في شهر رمضان سنة إحدى وعشرين. فكانت هذه أجلَّ ولاياته، وواصل فيها النزول إلى الجامع. وسكن في دار محمد بن عَبْدة، وكانت دارًا عظيمة سيأتي ذكرها في ترجمته. وكان في طول ولايته يتردَّد إلى أبي جعفر الطَّحَاوي يسمع عليه تصانيفه، بقراءة الحسن بن عبد الرحمن بن إسحاق الجوهري. فقال أبو القاسم القرشي: حضرت مجلس الطحاوي وعنده أبو عثمان وهو يومئذ قاضي مصر. فدخل رجل من أهل أسوان، فسأل أبا جعفر عن مسألة، فقال له الطحاوي: مذهب القاضي أيده الله كذا وكذا. فقال له: ما جئت إلى القاضي إنما جئتُ إليك. فقال يا هذا، هو كما قلت. فأعاد. فقال له أبو عثمان: أَفْتِه أيدك الله برأيك. فقال: إذا أذن القاضي أيده الله، أفتيته. ثم أفتاه. فكان ذلك يُعد من أدب الطحاوي وفضله. ووصف أبو القاسم القرشي أبا عثمان بالزهد والعبادة، وقيام الليل، وهو أول من خرج بالناس إلى مسجد محمود بالقرافة، لرؤية هلال رمضان. وقال أبو سعيد بن يونس في تاريخه: كان كريمًا كثير الحياء. حدث عن إسماعيل بن إسحاق وخلق كثير من أهل بغداد. وكان ثقة كثير الحديث. وعاش إلى شهر رمضان سنة تسع وعشرين وثلاثمائة. فمات ببغداد في هذه السنة بعد أخيه بنحو السنة.