وكان لهؤلاء الشيوخ أثر كبير في توجيه الإمام إسحاق العلمي، ولما أحس أنه قد أخذ الحديث والفقه، وغيرها من العلوم من علماء بلده، وما حولها من بلاد خراسان، ابتدأ في الرحلة لطلب العلم، فكان أول رحلاته إلى بغداد حاضرة العالم الإسلامي ومهد العلوم، ومقصد طلاب العلم من شتى الأمصار الإسلامية آنذاك، وكان ذلك سنة أربع وثمانين ومائة وهو ابن ثلاث وعشرين سنة.١
ثم تتابعت رحلاته، فورد بغداد غير مرة، ورحل إلى الحجاز واليمن والشام٢ فسمع من علمائها، وتوطدت العلاقة بينه وبين قرينه الإمام أحمد بن حنبل ﵀ فكانا يتذاكران العلم، حتى غفلوا عن التكبير لانشغالهما بالمذاكرة.٣
وقال الإمام إسحاق ﵀: كنت أجالس أحمد وابن معين، ونتذاكر فاقول: ما فقهه؟ وما تفسيره؟ فيسكتون إلا أحمد٤ وكان صدرًا في مجالس العلماء، يدير المناقشة بين الحاضرين، ويلقي الأسئلة، كما نقل