المعروف أن وفاته كانت في حبس السندي بن شاهك، وقيل أنه توفي في دار المسيّب بن زهرة بباب الكوفة الذي تقع فيه السدرة572 وقيل أن وفاته في مسجد هارون، وهو المعروف بمسجد المسيّب ويقع في الجانب الغربي من باب الكوفة لأنه نقل من دار تعرف بدار عمرو.573