لما توفي وحمل إلى البقيع أنشد أبو هريرة العجلي :

أقول وقد راحوا به يحملونه * على كاهل من حامليه وعاتق

أ تدرون ما ذا تحملون إلى الثرى ! * ثبيرا ثوى من رأس علياء شاهق

غداة حثا الحاثون فوق ضريحه * ترابا وأولى كان فوق المفارق

وروى الكليني وغيره بالاسناد عن أبي أيوب الجوزي قال بعث إلي أبو جعفر المنصور في جوف الليل فدخلت عليه وهو جالس على كرسي وبين يديه شمعة في يده كتاب فلما سلمت رمى الكتاب إلي وهو يبكي وقال هذا كتاب محمد بن سليمان والي المدينة يخبرنا ان جعفر بن محمد قد مات فإنا لله وإنا إليه راجعون ثلاثا وأين مثل جعفر ثم قال لي اكتب فكتبت صدر الكتاب ثم قال اكتب إن كان أوصى إلى رجل بعينه فقدمه واضرب عنقه فرجع الجواب إليه انه اوصى إلى خمسة أحدهم أبو جعفر المنصور ومحمد بن سليمان وعبد الله وموسى ابني جعفر وحميدة فقال المنصور ليس إلي قتل هؤلاء سبيل .

وروى ابن شهرآشوب في المناقب عن داود بن كثير الرقي قال اتى اعرابي إلى أبي حمزة الثمالي فسأله خبرا فقال توفي جعفر الصادق فشهق شهقة وأغمي عليه فلما أفاق قال هل اوصى إلى أحد قال نعم اوصى إلى ابنه عبد الله وموسى وأبي جعفر المنصور فضحك أبو حمزة وقال الحمد الله الذي هدانا إلى الهدى وبين لنا عن الكبير ودلنا على الصغير واخفى عن أمر عظيم فسئل عن قوله فقال بين عيوب الكبير ودل على الصغير لأضافته إياه وكتب الامر بالوصية للمنصور لأنه لو سأل المنصور عن الوصي لقيل أنت (اه) وذلك أن عبد الله وإن كان أكبر ولد الصادق (عليه السلام) إلا أنه كان به عيب فكان أفطح الرجل والامام لا يكون ناقصا ومع ذلك كان جاهلا باحكام الشريعة .

قوله : لأضافته إياه يعني اضافته إلى الأوصياء وجعله من جملتهم فعلم أنه هو الوصي الحقيقي لكمال فضله . وفي مروج الذهب للمسعودي : لعشر سنين خلت من خلافة المنصور توفي أبو عبد الله جعفر بن محمد بن علي بن الحسين بن علي بن أبي طالب سنة 148 ودفن بالبقيع مع أبيه وجده وله 65 سنة وقيل إنه سم .

وعلى قبورهم في هذا الموضع من البقيع رخامة مكتوب عليها : بسم الله الرحمن الرحيم الحمد لله مبيد الأمم ومحيي الرمم هذا قبر فاطمة بنت رسول الله (صلى الله عليه وآله) سيدة نساء العالمين وقبر الحسن بن علي بن أبي طالب وعلي بن الحسين بن علي بن أبي طالب ومحمد بن علي وجعفر بن محمد (عليه السلام) وفي تذكرة الخواص حكاية الكتابة على الرخامة عن الواقدي .