از آثاري كه از مسجد قديم نبوي باقي ماند، محراب ها است. قبلاً اشارت رفت كه در زمان رسول خدا(صلي الله عليه وآله) و نيز از زمان ابي بكر و عمر، محرابي در مسجد وجود نداشت. در آغاز امر ستوني از نخل و درخت خرما به عنوان نشانه قبله، نصب شده بود. اولين كسي كه در كنار محل نماز رسول خدا(صلي الله عليه وآله)محراب نهاد، عمر بن عبدالعزيز بود كه همزمان با بازسازي مسجد، محراب را بنياد نهاد.در اينجا گاهي اين بحث و گفتگو پيش مي آيد كه وضع محراب و ايجاد ديواري فرو رفته و مجوّف در درازاي ديوار مسجد چه حكمي دارد؟!گروهي از علما پذيراي چنين كار تازه از راه رسيده نبودند و مي گفتند: رسول خدا(صلي الله عليه وآله) و اصحاب او به اين كار دست نيازيدند. اما در عمل مي بينيم كه مسلمين در جواز آن به توافق رسيده اند. مسجد در جهان، فراوان وجود دارد. اگر من وتو، به هر سرزميني برويم و بر مسجد آن درآييم، اگر نشانه هايي كه ما را به سمت قبله رهنمون است در آن مسجد وجود نداشته باشد، قبله را تشخيص نخواهيم داد و ناگزير از پرسش مي شويم. اگر نابينايي بر مسجدي در آيد و كسي را در دسترس نداشته باشد تا از او سمت قبله را بپرسد و يا اگر انساني شبانه وارد مسجد شود (كه چراغي ندارد و يا خاموش است) هرگاه ديوارهاي مسجد را در چهار سو به تجسّس گيرد، به محراب يا منبر مي رسد و به شناخت سمت قبله توفيق مي يابد.توسط خليفه راشد اموي يعني عمربن عبدالعزيز، محراب در مسجد به صورت نهادي مرسوم در آمد كه مي توان گفت وي از علماي برجسته جهان اسلام نيز بوده است.آنگاه محراب تهجد و نماز شب، در درون محوطه بخش محصور آهني فراهم آمد كه در داخل حجره بود و از آن رو به محراب «تهجد» نامبردار شد; چون نبي گرامي(صلي الله عليه وآله) به خانه علي و فاطمه(عليهما السلام) براي اقامه نماز شب آمد و در پس پنجره آهني نماز شب را با آندو بزرگوار برگزار كرد، كه هم اكنون محل نهادن مصاحف مي باشد. درآنجا نيز محرابي براي زنان بنياد شده بود.