وُلِدَ هذا الإِمام في ((طولكرم)) بفلسطين، ونشأ هناك، ثم انتقل إلى ((القدس)) الشريف - فك الله أسره، وجميع بلاد فلسطين، وغيرها من بلاد المسلمين من أيدي المجرمين - وبعد ذلك ارتحل الإِمام مرعي إلى القاهرة، فاستأنس بالحركة العلمية التي كانت تتميز بها مصر وقتذاك، فأثر الأئمة الكبار من رجال القرن العاشر ما يزال قائماً، ومتمثلاً بتلامذتهم - الذين كانوا خيرَ امتدادٍ لهم - كالإِمام أبي الخير السخاوي (ت ٩٠٢هـ) والإِمام السمهودي (ت ٩١١هـ) والإِمام جلال الدين السيوطي (ت ٩١١هـ) والإِمام أبي العباس القسطلاني (ت ٩٢٣هـ) والإِمام زكريا الأنصاري (ت ٩٢٨هـ) والإِمام ابن حجر الهيثمي (ت ٩٧٣هـ) والإِمام نجم الدين الغيطي (ت ٩٨١هـ). وكان في مصر من الأعلام يوم أن حلَّ بها الإِمام مَرْعي الكَرْمي عدد وافر من الأئمة الكبار، كالإِمام العلامة عبد الرؤوف المناوي (ت ١٠٣١هـ)، والإمام إبراهيم بن حسن اللَّقاني (ت ١٠٤١ هـ)، والإِمام نور الدين الحلبي (ت ١٠٤٤ هـ) وغيرهم كثير.

ولما طاب العيش للإِمام مرعي في بلاد مصر، ووجد فيها ضالته المنشودة، عزم على الاستقرار بها، فألقى رحاله في القاهرة، واتخذها منطلقاً لبث علومه الشرعية، وأداء رسالته في تعليم الناس وإصلاحهم، حتى وافاه أجله فيها.

وقد تبوأ الإِمام مرعي منزلة كبيرة في المذهب الحنبلي، فهو يُعدُّ من كبار علماء الحنابلة بمصر. كما ضم إلى ذلك علوماً أخرى. فهو إمام مبرز