توفى ليلة الجمعة ثانى عشرين جمادى الأولى سنة تسع وعشرين وسبعمائة.
وصلّى عليه من الغد بالمستنصرية. وحضره خلق كثير. وكان يوما مشهودا، وكثر البكاء والتأسف والترحم عليه. ودفن بمقبرة الإمام أحمد، قريبا من القاضى أبى يعلى رحمهم الله تعالى.
ولجماعة من أهل بغداد فيه مدائح ومراث كثيرة، منهم الشيخ تقى الدين الدقوقى محدث بغداد. فمن قوله فيه من مرثيه له:
خدين التقى، مذ كان طفلا ويافعا … تسامت به تقواه عن كل مأثم
لقد كان شيخا فى الحديث بقية … من السلف الماضين أهل التقدم
فلما مضى مات الحديث بموته … فأكرم به، أكرم به، ثم أكرم
لقد مات محمودا سعيدا، ولم نجد … له خلفا، فاتبع مقالى وسلم
هنيئا له من حاكم متثبت … غزير الندى، سهل لعافيه مكرم
فتى صيغ من فقه، بل الفقه صوغه … حفىّ بإيضاح الدلائل قيم
عليم بمنسوخ الحديث وفقهه … وناسخه، بحر من العلم مفعم
لقد عظمت فى المسلمين رزية … غداة نعى الناعون أورع مسلم
فمن ذا الذى يؤتى فيسأل بعده؟ … ومن ذا ترى يجلو دحى كل مبهم؟
فقدناه شيخا عالما، ذا نزاهة … حييا سخيا، ذا أياد وأنعم
وها سدّة التدريس من بعده وها … مشيد علاها الشامخ المتسنم
وجاور بعد الموت قبر ابن حنبل … إمام، إليه الزهد ينمى وينتمى
وما خاب من أمسى مجاور قبره … فحط رحال الشوق ثمّ، وخيّم
وهى طويلة
ومن فتاوى الشيخ تقى الدين الزريراتى المعروفة: أن من أغرى ظالما بأخذ مال إنسان، ودلّه عليه: فإنه يلزمه الضمان بذلك.
ومن المعيدين عنده بالمستنصرية: