هنگامي که به ساوه رسيدند دچار بيماري سختي شدند وبه خادمشان دستور دادند؛ ايشان را به شهر مقدس قم انتقال دهد ، پس از ورود به قم، مردم اين شهر به استقبال آن حضرت شتافتند وموسي ابن خزرج بن سعد اشعري که بزرگ اشعريون بود افسار شتر آن حضرت را گرفته ، به منزل خود برد و ايشان پس از هفده روز از ورودشان به شهر مقدس قم و در روز دهم ربيع الثاني آن سال، رحلت فرمودند وبدن مطهر آن حضرت در قبرستان بابلان دفن گرديد.در آغاز، روي قبر ايشان سقفي از حصير بنا کردند  واولين گنبد را ، زينب دختر امام محمد تقي (عليه السلام) بر روي مزار شريف آن حضرت بنا فرمود.در کنار مدفن شريف حضرت معصومه (عليها السلام )، زينب ،ام محمد وميمونه دختران امام جواد (عليه السلام) نيز دفن گرديده اند .سن حضرت معصومه در زمان رحلت،بيست وهشت سال بود وايشان پس از امام علي ابن موسي الرضا(عليه السلام) دربين فرزندان امام موسي کاظم (عليه السلام ) داراي شأن ومقامي بس بزرگ هستند ودر روايات، براي زيارت آن حضرت ، ثواب زيادي ذکر شده است.