وُلد سنة إحدى عشرة وخمسمائة، ولما ولد بادر والده إلى شيخ الإسلام عبد القادر الكيلاني فأعلمه أنه وُلد له ولدٌ ذَكر، فقال له: سم ابنك حنبلًا وأسمعه المسند، فإنه يُعَمَّر ويُحتاج إليه. قال الذهبي: فكانت هذه من كرامات الشيخ رحمه الله تعالى.

فسمَّعه أبوه وعُمْره اثنتا عشرة سنة جميعَ المسند من ابن الحُصَين بقراءة نحوي [عصره] أبي محمد بن الخشاب، في شهر رجب وشعبان سنة ثلاث وعشرين وخمسمائة، قراءةً بليغةً محررة، ما حُفظ عليه فيها لحنةٌ، وكان والده عبدًا صالحًا، قد وقف نفسه على السعي في مصالح المسلمين، والمشي في حوائجهم، ويحرض على تجهيز موتى الطرق، ويُعين الملهوف.

ثم قال الحافظ المجوّد أبو الطاهر بن الأنماطي فيما قرأتُ بخطه: تتبعت سماعَ حنبل للمسند من عدة نسخ وأثباتٍ، وخطوط أئمة أثباتٍ، إلى أن شاهدت بها أصول سماعه لجميع المسند، سوى أجزاء من أول مسند ابنِ عباس، شاهدت بها نقلَ سماعه بخطّ من يؤثق به، وسمعت منه جميع المسند ببغداد، في نيف وعشرين مجلسًا، ثم أخذتُ أرغبه في السفر إلى الشأم، وقلت له: يحصل لك من الدنيا شيء، وتقبلُ عليك وجوه الناس، فقال: دعني، فوالله ما أُسافر من أجلهم، ولا لما يحصل منهم، إنما أسافر خدمةً لرسول الله ﷺ، أروي أحادثه في بلدٍ لا ترْوَى. قال: ولما علم الله تعالى نيته الصالحة، أقبل بوجوه الناس عليه، وحرَّك الهممَ للسماع عليه، فاجتمع عليه جماعةٌ ما اجتمعوا بمجلس بدمشق.