كانت هزيمة مروان بالزاب، يوم السبت، لإحدى عشرة خلت من جمادى الآخرة، سنة اثنتين وثلاثين ومائة، ولما انهزم مروان من الزاب، أتى الموصل، فسبّه أهلها وقالوا: يا جعدي، الحمد لله الذي أتانا بأهل بيت نبينا، فسار عنها حتى أتى حران، وأقام بها نيفاً وعشرين يوماً، حتى دنا منه عسكر السفاح، فحمل مروان أهله وخيله، ومضى منهزماً إلى حمص، وقدم عبد الله بن علي حران، ثم سار مروان من حمص وأتى دمشق، ثم سار عن دمشق إِلى فلسطين، وكان السفاح قد كتب إِلى عمه عبد الله بن علي باتباع مروان، فسار عبد الله في أثره إلى أن وصل إلى دمشق، فحاصرها ودخلها عنوة، يوم الأربعاء لخمس مضين من رمضان، سنة اثنتين وثلاثين ومائة.

ولما فتح عبد الله بن علي دمشق، أقام بها خمسة عشرة يوماً، ثم سار من دمشق حتى أتى فلسطين، فورد عليه كتاب السفاح يأمره أن يرسل أخاه، صالح بن علي بن عبد الله بن عباس في طلب مروان، فسار صالح في ذي القعدة من هذه السنة، حتى نزل نيل مصر، ومروان منهزم قدامه، حتى أدركه في كنيسة في بوصير من أعمال مصر، وانهزم أصحاب مروان، وطعن إِنسان مروان برمح فقتله، وسبق إِليه رجل من أهل الكوفة، كان يبيع الرمان، فاحتز رأسه، وكان قتله لثلاث بقين من ذي الحجة، سنة اثنتين وثلاثين ومائة، ولما أحضر رأسه قدام صالح بن علي بن عبد الله ابن العباس، أمر أن ينفض، فانقطع لسانه، فأخذته هرة، وأرسله صالح إلى السفاح وقال:

قد فتحَ اللهُ مصراً عنوةً لكُمُ ... وأهلك الفاجرَ الجعديَ إِذ ظلما

وذاك مقــوله هـــر يجرره ... وكان ربُكَ من ذي الكفر منتقما

ثم رجع صالح المذكور إِلى الشام، وخلف أبا عون بمصر، ولما وصل الرأس إِلى السفاح وهو بالكوفة، سجد شكراً لله تعالى، ولما قتل مروان، هرب ابناه عبد الله وعبيد الله إِلى أرض الحبشة، فقاتلتهم الحبشة، فقتل عبيد الله، ونجا عبد الله في عدّة ممن معه، وبقي إلى خلافة المهدي، فأخذه نصر بن محمد بن الأشعث عامل فلسطين، فبعث به إِلى المهدي، ولما قتل مروان حُملت نساؤه وبناته إِلى بين يدي صالح بن علي بن عبد الله بن عباس، فأمر بحملهن إلى حران، فلما دخلنها ورأين منازل مروان، رفعن أصواتهن بالبكاء، وكان عمر مروان لما قتل، اثنتين وستين سنة، وكانت مدة خلافته خمس سنين وعشرة أشهر ونصفاً، وكان يكنى أبا عبد الملك وكانت أمه أم ولد كردية، وكان يلقب بالحمار، وبالجعدي، لأنه تعلم من الجعد بن درهم مذهبه، في القول بخلق القرآن، والقدر، وكان مروان بن محمد، الحكمٍ المذكور، أبيض أشهل، ضخم الهامة، كث اللحية أبيضها، ربعة، وكان شجاعاً، حازماً، إلا أن مدته انقضت، فلم ينفعه حزمه وهو آخر الخلفاء من بني أمية.