این بنا، یکی از قدیمی ترین و مهمترین بناهای تاریخی سمنان است که در طول زمان چندین بار تجدید و تعمیر شده است. بنای اولیه مسجد را به قرون اولیه اسلامی نسبت می دهند؛ اما امروزه - غیر از مناره سلجوقی- تنها می توان آثاری از دوره ایلخانی و تیموری را در آن تشخیص داد. بنای کنونی مسجد مشتمل بر ایوان مقصوره، شبستان و صحن است. ایوان آجری رفیع و بلند مسجد به ارتفاع بیش از ۲۱ و عرض دهنه ۴۰/۱۰ متر، در غرب مسجد واقع است و با توجه به کتیبه تاریخی موجود که با کاشی بر بدنه آن نگاشته اند، معلوم می شود که در سال ۸۲۸ هـ. ق توسط خواجه شمس الاین علی بالیچه سمنانی ـ وزیر شاهرخ تیموری ـ ساخته شده است. کتیبه مذکور به خط ثلث سفید بر متن لاجوردی بدین شرح نوشته شده است: " اسمه القدیم اعلی و اولی باالتقدیم اتفق بناء العمارة المبارکة الشریفه فی ایام دولة سلطان الاعظم مالک رقاب الامم مولی ملوک العرب و العجم ظل الله فی الارضین المؤید بتائید رب العالمین باسط الامن والامان ... المؤمنین معین الاسلام والمسلمین شاهرخ شاه ادام الله ملکه و سلطانه و افاض علی العالمین مرحمة و احسانه والموفق لبناء الخیر من خالص ماله الاصاحب الاعظم دستور الوزراء فی الامم ملک الحاج و زائر الحرمین معز الدنیا والدین ملک حسین بن الصاحب الاعظم خواجه عزالدوله والدین محمد بالیچه سمنانی و کتب فی رجب سنه ثمان و عشرین و ثمانمائه ". در پایین این کتیبه، چند لوح سنگی بزرگ مشتمل بر فرامین پادشاهان صفوی برای مردم سمنان نصب شده است.
تزیینات کاشیکاری ایوان، منحصر به کتیبه کاشی فوق الذکر و پشت بغل های کوچک اسپردوم جرزهای طرفین ایوان است. در پشت ایوان رفیع، مقصوره ای مربع شکل به طول و عرض ۱۴ قدم و ارتفاع بیش از ۵/۱۴ متر وجود دارد که به وسیله دو ورودی کوچک طرفین محراب ایوان، به صحن و به کمک چند در کوچک و بزرگ، به شبستان های اطراف راه می یابد. این گنبدخانه به نظر می رسد که به وسیله خواجه ابو سعید در عهد سلطان سنجر سلجوقی ساخته شده باشد. شبستان شمالی مسجد مشتمل بر ۱۶ ستون مدور و قطور است که بر روی آن، طاق های ضربی استوار گردیده است. در نفیس شمالی که مسجد را به خیابان امام و بازار شیخ علاء الدوله مربوط می سازد و دارای کنده کاری بسیار زیبایی است، در کنار این شبستان قرار دارد.
بنای اولیه این شبستان توسط خواجه نظام الدین سمنانی در عهد سلجوقی بنا شده است. شبستان شرقی که به وسیله در ورودی جنوب شرقی، از شبستان جنوبی و به وسیله در شمالی، از شبستان شمالی جدا می گردد، توسط هشتی کوچکی با طاق گنبدی کم خیز و مزین به تزیینات معقلی بسیار زیبا به بازار حضرت راه می یابد. این شبستان به وسیله کی قبادبن ملک شرف الدین سمنانی ـ وزیر امیر تیمور گورکانی ـ ساخته شده است. در جلوی در ورودی شرقی که به نام جلو خان مشهور است، فضای هشت ضلعی بزرگی با پشت بغل های کاشیکاری وجود دارد. در گوشه شمال شرقی شبستان شرقی، منار سلجوقی قرار دارد که ورودی آن به این شبستان باز می شود. شبستان جنوبی مسجد مشتمل بر۱۶ ستون مدور در وسط و هشت نیم ستون در طرف دیوار شرقی است که پایه های ۲۷ طاق شبستان بر روی آنها استوار شده است.
این شبستان در زمان ارغون خان و به وسیله وزیرش شیخ علاء الاوله سمنانی احداث شده و در زمان فتحعلی شاه قاجار توسط حاکم سمنان ـ ذوالفقارخان سمنانی ـ تعمیر گردیده است. در ورودی جنوب شرقی که در گوشه مسجد قرار دارد، به وسیله راهروی کوچکی به هشتی بزرگی متصل می شود که دارای حوضخانه است.
بین شبستان ها و ایوان بزرگ، صحن مسجد به ابعاد ۲۵×۲۷متر واقع شده است. همچنان که اشاره شده، در گوشه شمال شرقی شبستان شرقی، منار سلجوقی واقع است که یکی از یادگارهای ارزشمند معماری سلجوقی در ایران به شمار می آید و بر طبق مضمون کتیبه خط کوفی آن، در بین سال های ۴۱۷ تا ۴۶۶ توسط ابوحرب بختیار ـ حاکم ایالت قومس در دوره غزنوی و ممدوح منوچهر دامغانی ـ بنا گردیده است.
ارتفاع کلی منار، ۵/۲۸ متر است که ۵/۲۴ متر آن شامل میله منار تا انتهای مقرنس ها و قاعده مأذنه و ۴ متر دیگر شامل مأذنه و قسمت فوقانی آن است. قسمت تحتانی منار تا نزدیک کتیبه زیرین تقریبا استوانه است و از آنجا به بعد تا زیر مقرنس های مأذنه، به تدریج و با تناسب کامل از قطر آن کاسته می شود. مأذنه بر روی دو ردیف مقرنس پرکار قرار گرفته است. شیوه ساخت مأذنه، آن را به دوره صفوی منتسب می سازد و احتمال می رود که در دوره صفویه به جای مأذنه ویران قدیمی ساخته شده باشد. نقشه مأذنه، هشت ضلعی است و اطراف آن با نرده های زیبایی مزین به گره بندی های سبک صفوی محصور گشته است. سقف بزرگ هشت ضلعی مأذنه با لبه های مضرس طرح دار، از نفوذ باران به داخل مأذنه و مناره جلو گیری می کند. ادامه مناره، از مأذنه خارج شده، به قبه کوچکی ختم می شود. این منار اندکی از زاویه قائمه خمیدگی پیدا کرده است. قطر منار در قسمت پایین، ۶/۳ و قطر داخلی آن، ۰۹/۲ متر است.
ضخامت دیوار منار نیز در پایین ترین قسمت، ۷۵ سانتی متر است که متناسب با کم شدن قطر منار، از ضخامت آن کاسته می شود. پلکان های مارپیچ منار، برعکس حرکت عقربه ساعت و حول محور آجری منار می پیچند و بالا می روند. این منار دارای دو کتیبه به خط کوفی گره دار است که یکی مشتمل بر آیات قرآن و دیگری نام بانی بناست. در کتیبه اخیر، عبارت " بسم الله امر ببناء هذه المنارة الامیر الجلیل السید ابوحرب بختیار بن محمد مولی امیرالمومنین" خوانده می شود. از ویژگی های خاص این منار، تزیینات آجری آن است که به شیوه های مختلف هندسی و ریزه کاری های جالب و چشمگیری اجرا شده است. همچنین در تعمیرات دوره صفوی، از قطعات کاشی های فیروزه ای در مقرنس ها به شیوه معلقی استفاده شده که به زیبایی آن هرچه بیشتر افزوده است. مسجد جامع سمنان به شماره ۱۶۳ و مناره سلجوقی به شماره ۱۶۲ به ثبت تاریخی رسیده اند.