ثم وليها عبد الرحمن بن عتبة بن جحدم من قبل عبد الله بن الزبير دخلها في شعبان سنة أربع وستين، فأقر عابس بن سعيد على الشرط والقضاء، وقدم ابن جحدم يجمع كثير من الخوارج الذين كانوا مع ابن الزبير بمكة من أهل مصر وغيرهم، فيهم: حوشب بن يزيد، وأبو الورد حجر بن عمرو، وغيرهم، فأظهروا التحكيم ودعوا إليه، فاستعظم الجند ذلك، وبايعه الناس على غل في قلوب ناس من شيعة بن أمية، منهم: كريب بن أبرهة الأصبحي، ومقسم بن بجرة التجيبي، وزياد بن حناطة التجيبي، وعابس بن سعيد، وغيرهم، وكانت شيعته من أهل مصر دعوه إليها وهم في العلانية مع ابن جحدم، وسار مروان إلى مصر ومعه: خالد بن يزيد بن معاوية، وعمرو بن سعيد، وعبد الرحمن بن الحكم، وزفر بن الحارث، وحسان بن بحدل، ومالك بن هبيرة السكوني في أشراف كثير، وبعث ابنه عبد العزيز في جيش إلى أيلة ورجا ان يدخل مصر من تلك الناحية وأجمع ابن جحدم على حربه ومنعه، فأشار عليه الجند بحفر خندق يخندق به على الفسطاط، فأمر بحفره، فحفر في شهر واحد.
قال ابن أبي زمزمة الحشني:
وما الجد إلا مثل جد ابن جحدم ... وما العزم إلا عزمه يوم خندق
ثلاثون ألفا هم أثاروا ترابه ... وخدوه في شهر حديث مصدق
وهو الخندق الذي في مقبرة الفسطاط اليوم.
وبعث ابن جحدم بمراكب في البحر ليخالف إلى عيال أهل الشام عليها إلا كدر بن حمام اللخمي، وقطع بعثا في البر استعمل عليهم السائب ابن هشام بن كنانة العامري، وبعث بجيش آخر عليهم زهير بن قيس البلوي إلى أيلة ليمنع عبد العزيز من المسير إليها، فأما جيش السائب بن هشام فإن روح بن زنباع أخبر مروان أن السائب له ابن مسترضع بفلسطين، فأخذه مروان، فلما التقوا ابرز إليه الصبي، فقال: أتعرف هذا يا سائب؟ قال: هذا ابني.
قال: نعم فوالله لئن لم ترجع عودك على بدئك لأرمينك برأسه فرجع السائب بجيشه ذلك ولم يقاتل، فسمي جيشه جيش الكرارين، وأما المراكب فنزل عليها عاصف، فغرقها وغرق بعضها، ونجا أميرها إلا كدر، وعاد إلى الفسطاط.
وأما زهير بن قيس فلقي عبد العزيز بن مروان ببصاق وهي سطح عقبة أيلة، فقاتله فانهزم زهير ومن معه، قال زهير لعبد العزيز:
منعت بصاقا والبطاح فلم ترم ... بطاحك لما أن حميت ذماركا
पृष्ठ 35