بويع لمروان بالخلافة في الشام وسبب ذلك أن ابن الزبير كتب إلى عامله بالمدينة أن يخرج بني أمية، فخرجوا وخرج معهم مروان بن الحكم إلى الشام - وعبد الملك يومئذ ابن ثمان وعشرين سنة، فكان من رأي مروان أن يرحل إلى ابن الزبير ويبايعه. فقدم عبيد الله بن زياد، فاجتمعت عنده بنو أمية ، فقال لمروان: استحييت لك مما تريده، أنت كبير قريش وسيدها، تصنع ما تصنع، فقال: والله ما فات شيء بعد، فقام معه بنو أمية ومواليهم، فبايعوه بالجابية لثلاث خلون من ذي القعدة، وتجمع إليه أهل اليمن، فسار وهو يقول: ما فات شيء بعد، فقدم دمشق وقد بايع أهلها الضحاك بن قيس الفهري على أن يصلي بهم ويقيم لهم أمرهم حتى يجتمع أمر أمة محمد صلى الله عليه و[آله و]سلم.

وكان ابن الضحاك يهوى هوى ابن الزبير، فيعمل في ذلك سراً خوفاً من بني أمية، وثار زفر بن الحارث الكلابي بقنسرين يبايع لابن الزبير، واختلف أهل دمشق فخرج مروان فقتله وقتل أصحابه وقتل النعمان بن بشير الأنصاري - وكان على حمص - وأطبق أهل الشام على مروان، فخرج مروان حتى أتى مصر وعليها عبد الرحمن بن جحدم القرشي يدعو إلى ابن الزبير، فخرج إليه فيمن معه من بني فهر، وبعث مروان عمرو بن سعيد الأشدق من ورائه حتى دخل مصر، وقام على منبرها للناس، وأمر مروان الناس فبايعوه، ثم رجع إلى دمشق حتى إذا دنا منها بلغه أن ابن الزبير قد بعث أخاه مصعب بن الزبير نحو فلسطين، فسرح إليه مروان عمرو بن سعيد الأسدي في جيش، فاستقبله قبل أن يدخل الشام، فقاتله فهزم أصحاب مصعب. وقيل لمروان: إنما ينظر الناس إلى هذا الغلام - يعنون خالد بن يزيد بن معاوية - فتزوج أمه فيكون في حجرك، فتزوجها، ثم جمع بني أمية فبايعوه.

وفي هذه السنة: بايع أهل خراسان سالم بن زياد بعد موت يزيد بن معاوية ، وبعد موت ابنه معاوية، على أن يقوم بأمرهم حتى يجتمع الناس على خليفة.

وفيها كانت فتنة عبد الله بن خازم بخراسان وذلك أن سالم بن زياد بعث بما أصاب من هدايا سمرقند وخوارزم إلى يزيد بن معاوية مع عبد الله بن خازم، وأقام سالم والياً على خراسان حتى مات يزيد وابنه معاوية، فلما بلغه ذلك دعا الناس إلى البيعة على الرضا حتى يستقيم الناس على خليفة، فبايعوه، وكانوا يحبونه حتى أنهم سمّوا في سني ولايته أكثر من عشرين ألف مولود بسلم.

وأقاموا على بيعته شهرين ثم نكثوا. فخرج عن خراسان وخلف عليها المهلب بن أبي صفرة، فلقيه عبد الله بن خازم، فقال له: اكتب لي عهداً على خراسان، فكتب له، فقال: أعني الآن بمائة ألف درهم، ففعل، وأقبل فغلب على مرو، وجرت له حروب كثيرة.