في سنة تسع وتسعين استخلف عمر بن عبد العزيز وسبب ذلك أن سليمان بن عبد الملك كان بدابق ومرض، فلما ثقل عهد في كتاب كتبه لبعض بنيه وهو غلام لم يبلغ فقال له رجاء بن حيوة ما تصنع يا أمير المؤمنين ان مما يحفظ الخليفة في قبره أن يستخلف على الناس الرجل الصالح فقال سليمان أنا أستخير الله وأنظر ولم أعزم فمكث سليمان يوما أو يومين ثم خرقه ودعا رجاء فقال ما ترى في ولدي داود فقال رجاء هو غائب عن القسطنطينية ولا تدري أحي أم لا قال فمن ترى قال يا أمير المؤمنين رأيك يا أمير المؤمنين قال فكيف ترى في عمر بن عبد العزيز فقال رجاء فقلت أعلمه والله خيرا فاضلا سليما قال سليمان هو والله على ذلك ولئن وليته ولم أول أحدا سواه لتكونن فتنة ولا يتركونه أبدا يلي عليهم إلا أن يجعل أحدهم بعده.

وكان عبد الملك قد عهد إلى الوليد وسليمان أن يجعلا أخاهما يزيد ولي عهد فأمر سليمان أن يجعل يزيد بن عبد الملك بعد عمر وكان يزيد غائبا في الموسم قال رجاء قلت رأيك فكتب: ( بسم الله الرحمن الرحيم هذا كتاب من عبد الله سليمان أمير المؤمنين لعمر بن عبد العزيز إني قد وليتك الخلافة بعدي ومن بعدك يزيد بن عبد الملك فاسمعوا له وأطيعوا واتقوا الله ولا تختلفوا فيطمع فيكم) وختم الكتاب ثم أرسل إلى كعب بن جابر العبسي صاحب شرطته فقال ادع أهل بيتي فجمعهم كعب ثم قال سليمان لرجاء بعد اجتماعهم اذهب بكتابي إليهم وأخبرهم بكتابي ومرهم فليبايعوا من وليت فيه ففعل رجاء فقالوا ندخل ونسلم على أمير المؤمنين قال نعم فدخلوا فقال لهم سليمان في هذا الكتاب الذي في يد رجاء بن حيوة عهدي فاسمعوا وأطيعوا لمن سميت فيه فبايعوه رجلا رجلا وتفرقوا قال رجاء فأتاني عمر بن عبد العزيز فقال أخشى أن يكون هذا أسند إلي شيئا من هذا الأمر فأنشدك الله وحرمتي ومودتي إلا أعلمتني إن كان ذلك حتى أستعفيه الآن قبل أن تأتي حال لا أقدر فيها على ذلك قال رجاء ما أنا بمخبرك حرفا قال فذهب عني عمر غضبان، قال رجاء ولقيني هشام بن عبد الملك فقال إن لي بك حرمة ومودة قديمة وعندي شكر فأعلمني بهذا الأمر فإن كان إلى غيري تكلمت ولله علي أن لا أذكر شيئا من ذلك أبدا فأبيت أن أخبره حرفا فانصرف هشام وهو يضرب بإحدى يديه على الأخرى ويقول فإلى من إذا نحيت عني أتخرج من بني عبد الملك قال رجاء ودخلت على سليمان فإذا هو يموت فجعلت إذا أخذته سكرة من سكرات الموت حرفته إلى القبلة فيقول حين يفيق لم يأن بعد ففعلت ذلك مرتين أو ثلاثا فلما كانت الثالثة قال من الآن يا رجاء إن كنت تريد شيئا اشهد أن لا إله إلا الله وأشهد أن محمدا رسول الله فحرفته فمات فلما غمضته وسجيته وأغلقت الباب أرسلت إلى زوجته فقالت كيف أصبح فقلت هو نائم قد تغطى ونظر إليه الرسول متغطيا فرجع فأخبرها فظنت أنه نائم قال فأجلست على الباب من أثق به وأوصيته أن لا يبرح ولا يترك أحدا يدخل على الخليفة قال فخرجت فأرسلت إلى عقب بن جابر فجمع أهل بيت سليمان فاجتمعوا في مسجد دابق فقلت بايعوا فقالوا قد بايعنا مرة قلت وأخرى هذا عهد أمير المؤمنين فبايعوا الثانية فلما بايعوا بعد موته رأيت إني قد أحكمت الأمر فقلت قوموا إلى صاحبكم فقد مات قالوا إنا لله وإنا ليه راجعون وقرأت الكتاب عليهم فلما انتهيت إلى ذكر عمر بن عبد العزيز قال هشام لا نبايعه والله أبدا قلت أضرب والله عنقك قم فبايع فقام يجر رجليه قال رجاء فأخذت بضبعي عمر بن عبد العزيز فأجلسته على المنبر وهو يسترجع لما وقع فيه وهشام يسترجع لما أخطأه فبايعوه وغسل سليمان وكفن وصلى عليه عمر بن عبد العزيز ودفن فلما دفن أتي عمر بمراكب الخلافة ولكل دابة سائس فقال ما هذا فقيل مراكب الخلافة قال دابتي أوفق لي وركب دابته وصرفت تلك الدواب ثم أقبل سائرا فقيل له أمنزل الخلافة فقال فيه عيال أبي أيوب يعني سليمان وفي فسطاطي كفاية حتى يتحولوا فأقام في منزله حتى فرغوه. قال رجاء فأعجبني ما صنع في الدواب ومنزل سليمان ثم دعا كاتبا فأملى عليه كتابا واحدا وأمره أن ينسخه ويسيره إلى كل بلد وبلغ عبد العزيز بن الوليد وكان غائبا موت سليمان ولم يعلم ببيعة عمر فعقد لواء ودعا إلى نفسه فبلغه بيعة عمر بعهد سليمان فأقبل حتى دخل عليه فقال له عمر بلغني أنك بايعت من قبلك وأردت دخول دمشق فقال قد كان ذاك وذلك أنه بلغني أن سليمان لم يكن عهد لأحد فخفت على الأموال أن تنهب فقال عمر لو بايعت وقمت بالأمر لم أنازعك فيه ولقعدة في بيتي فقال عبد العزيز ما أحب أنه ولي هذا الأمر غيرك وبايعه وكان يرجى لسليمان بتوليته عمر بن عبد العزيز وترك ولده فلما استقرت البيعة لعمر بن عبد العزيز قال لامرأته فاطمة بنت عبد الملك إن أردت صحبتي فردي ما معك من مال وحلي وجوهر إلى بيت المسلمين فإنه لهم وإني لا أجتمع أنا وأنت وهو في بيت واحد فردته جميعه فلما توفي عمر وولي أخوها يزيد رده عليها وقال أنا أعلم أن عمر قد ظلمك قالت كلا والله وامتنعت من أخذه وقالت ما كنت أطيعه حيا وأعصيه ميتا فأخذه يزيد وفرقه على أهله.