این مسجد بنایی است بسیار قدیمی و درنهایت شکوه و جلال که علاوه بر روحانیت معنوی دارای ظاهری دلچسب و فرح انگیز است. امروز با گذشت ۱۱۰۰سال همچنان این بنا بلندترین عمارت قاین می باشد.

درمورد بنای اولیه آن اختلاف نظر وجود دارد. استقرار یکی از پایه های مسجد بر روی آتشکده ساسانیان گویای تاریخ کهن آن است. اغلب مورخان وجهانگردان در بیان و معرفی شهر قاین به مسجدجامع صراحتا اشاراتی داشته اند. صوره الارض ابن حوقل (۳۳۱ه ق) می نوسید:

قاین وسعت آن چند سرخس است و بناهای آن از گل ودارای قهندژ(کهندژ) است که خندقی درپیرامون دارد و مسجد جامع و دارالاماره در قهندژاست.

قاین شهری بزرگ و حصین است گرد شهر خندقی دارد و مسجد آدینه به شهر اندر است و آنجا که مقصوره است تاقی عظیم و بزرگ چنانکه در خراسان از آن بزرگتر ندیدیم و آن تاق نه در خور مسجداست و عمارت همه شهر به گنبد است.

از آنجایی که اصطخری مسجد جامع را در قهندژ(ارگ) قاین و در کنار دارالاماره دانسته در حالی که صد سال بعد ناصر خسرو و مسجد را در قسمت اماکن عمومی شهر توصیف می کند. احتمال دارد مسجد کنار دارالاماره در طی صد سال بر اثر زلزله ویران شده و مسجد جامع بعدی بر جای نیایشگاه ساسانی ساخته شده باشد.

از کتیبه های متعدد مسجد جامع می توان نتیجه گرفت که این بنا بارها بر اثر زلزله صدمه کلی دیده و مرمت شده است.

در یکی از کتیبه های ایوان بسال ۷۹۶هجری قمری نوشته شده :این بنا به فرمان جمشید قارن از خاندان معروف قارن که در دوره امیر تیمور جهانگشا حاکم قاین و مدتی حاکم ساری و دامغان بود تعمیر ومرمت شد.

لوحه ای به خط رقاع در داخل رواق پنجم درضلع شمالی حیاط مسجد می باشد و تاریخ آن اول رجب سال ۹۲۱است. مضمون کلی آن مربوط به زمان فرمانروایی امیر سلطانی است که در (۹۱۹-۹۲۱)هجری از سوی شاه اسماعیل صفوی در قاین به این مقام منصوب شد.

سنگ لوحی در سمت راست ورودی ایوان مسجد به ابعاد ۱۲۰*۵۰سانتی متر و با خط بسیار زیبای رقاع که شاه سلیمان صفوی امر به بازسازی مسجد داد بتاریخ ۱۰۸۰هجری قمری کرده است.
در کاوشهای شبستان شمالی به سال ۱۳۵۴ستونهای سنگی با درازاوپهنای یک متر در یک متر از سنگ و لاشه وملات وساروج کشف شده که پایه های کنونی بر روی آنها بنا گردیده وجود یک ستون چهار قلو در شبستان مشابه ستونهای مسجد جامع اصفهانی قدمتی از دوره سلجوقی را نشان می دهد که احتمالا دردوره تیموری تجدید بنا گردیده گمانه زنی در این محل به عمق ۶۰سانتی متر وکشف قطعاتی از آجرو سفالهای سلجوقی نشان داد که مسجد در یک زلزله شدید خراب گردیده است.

بسیاری معتقدند از قلعه کوه تا دژ مرکزی شهر ومسجد جامع یک تونل زیر زمینی وجود داشته و مورد استفاده بوده. احتمال دارد این معبر با مسیر کاریز جعفر آباد یکی باشد که در نزدیکی قلعه کوه معبرش مجزا می گردد. اگر کاوشهای باستان شناسی انجام شود شاید بتوان بسیاری از شگفتی ها را شناسایی و معرفی نمود.

مسجد جامع دارای دومحراب است گرچه این مسجد جزو قدیم ترین مساجد ایرانی می باشد ولی محرابهای آن ربطی به تغییر قبله ازمسجد الاقصی به مکه ندارد احتمالا یا ناشی از اختلاف اهل سنت و تشیع در محاسبات قبله یابی بوده یا محراب انتهایی ایوان یک نیایشگاه باشد.

مسجد جامع قاین ۲۴۷۰متر مربع وسعت داشته که ۱۰۵۰متر مربع آن زیر بنای ایوان. شبستانها و حجره ها و۱۲۰۰متر مربع عرصه داخلی می باشد. حیاط مسجد محوطه ای به در ازای ۳۳وپهنای ۲۸متر است. در اطراف حیاط حجره هایی به عمق ۲ متر قرار دارد از شاهکارهای معماری مسجد ایوان آن است که به طرز با شکوهی به زیبایی مسجد گوهر شاد با ارتفاع ۱۸متر. عرض ۱۱متر وطول ۲۲متر ساخته شده است. قبلا دومناره در دوسمت ایوان به ارتفاع ۵متر داشته که باعث زیبایی بیشتر مسجد می شدو تا قبل از ویرانی صدای موذن از آن بلند بود. سقف ایوان ۴تاق و ۳ گنبد دارد که به طرز زیبایی رنگ آمیزی و تزیین شده ومعرق کاریهایش بسیار ظریف و زیباست نقاشی های ایوان به شیوه اصفهانی بوده و در دوره صفویان انجام شده و درزمانهای بعد روی آنها را رنگ زده اند.

دو شبستان در دو سمت ایوان علاوه بر این که در فصل زمستان استفاده خوبی دارند برای جلوگیری از رانش دیوارهای اطراف ایوان تاثیر بسزایی دارند.

منبر چوبی بزرگ و نفیس مسجد مربوط به سال ۱۰۸۲هجری است که از چوب چنا رتوسط استاد محمد واعظی کاخکی به طرز ماهرانه ای ساخته شده کتیبه آن با خط مسخ بر روی آن منبت کاری است «عمل استاد محمد مقیم بن استادمحمد ولی بن استاد حسن علی کاخکی فی شهور سنه اثنان وثمانون بعدالالف»

در میان صحن مسجد پایابی مسقف جهت دسترسی به آب قنات جعفر آباد و به دستور صفشکن خان همزمان با حکومت شاه سلیمان صفوی احداث شد. این پایاب در ۵/۵متری عمق زمین دارای ۲۰پله میباشد. کتیبه ای در حجره جنب پایاب جهت اطمینان خاطر به استفاده از آب قنات جعفر آباد در رابطه با وضو چنین نوشته شده: «چون مزرعه جعفرآباد در پی بازار واقع در بلده قاین چندین سال بایر بود در این ولاء اولاد استاد مرحمت پناه مغفوری میرزا عرب قاینی مالکان مزرعه مذکور آب را جاری کردند و شرط کردند که زراعت آنرا در بیرون شهر به جهت نفع خود نکنند و همه ساله آب آن متصل از در مسجد واقع د ربازار می گذشته باشد تا مومنان و مسلمانان که رجوع به مسجد و بازار داشته باشند از آب فایض بوده دعای پادشاه جمجماه ستاره ظل الهی می گفته باشدوثواب آن به روزگار مالکان برسد و خلاف کننده شرط مذکور به لعنت خدا و نفرین رسول گرفتار گردد. سنه ۱۰۴۶هجری قمری»

در میان صحن مسجد جهت تعیین ظهر شرعی قاین ساعت آفتابی توسط استاد توحیدی ساخته شده دو درب مسجدیکی به سوی بازار قدیمی در شرق با دری بزرگ و دیگری به سوی شمال(محل بازار فعلی) باز میشود.

در سمت راست ورودی ایوان مسجد لوح نسبتا بزرگی بصورت عمودی در بدنه دیوار نصب شده و تاریخ آن محرم الحرام سال ۱۰۴۶هجری قمری است. مفاد کتیبه یک دستور العمل حکومتی درباره مالیات در ۲۴خط می باشد. متن آن چنین است: «فرمان همایون شد آنکه چون پیوسته مکنون خاطر ماثر نواب همایون مانست که در زمان دولت ابد پیوند و عهد خلافت ارجمند آثار اخبارو احسان در میان طوایف انسان منشر گرددو عموم رعایا وکافه برایا ازمراحم بی دریغ خسروانه بهره مند بوده درکمال رفاهیت و آسودگی در دامن امان غنوده به دعا گویی دوام دولت روز و استدامت سلطنت ابد مقرون قیام نماید. بنا بر ترفیه حال رعایا در معامله سجقان ئیل با توجهات ووجوهات جماعت مذکوره ضمن رعایا فتوح ممالک محروسه سوای کاولیان ولولیان وسند ویان مشهور به خطیران و حسن بداللو وبغدادلووتوابع که مقرر است که از عهده مالیه خود بیرون آیند به قید همه ساله به تخفیف و تصدیق مقر فرمودیم وزیروکلانتر وعمال ومستاجر وهمه ساله سرکار قاین حسب المسطور مقرر دانسته از تاریخ مذکور یک دینار تنخواه من الوجوه به علت مالیه و حقوق دیوانی جماعت ضمن رعایا فتوح طلب ننموده مزاحمت نرسانند وجار نموده جمیع مردم را خبر سازند که مطلع گردند که مالیه شاق به تخفیف مقرر شده یک دینار به احدی ندهند و صورت حکم مذکور بر سنگ نقش نموده بر در مسجد وبقاع الخیر که منظور نظر خلایق بوده باشد نصب نمایند وتغییر کننده را مورد سخط و غضب شاهانه شناسند که ثواب آن روزگار فرخنده آثار عاید گردد.

و همه ساله داران ومستاجران وجوه مذکور را به شرح فوق عمل نموده از تاریخ ورود بر وجه اشرف یک دینار به علت مالیه وحقوق دیوانی جماعت ضمن متعلقه به رعیت خانه که به اجاره و همه ساله ایشان مقرر است باز یافت نکرده طلبی ننمایند و ازاجاره وهمه ساله خود برطرف دانند واگر از جماعت کاولیان و غیره که مالیه ایشان به تخفیف متغیر نشده احدی با مردشتبانی و غیره آن که به موجب ضمن به تخفیف مقرر است اشتغال نمایند به علت مالیه وحقوق دیوانی آن امور که به تخفیف مقرر است طلبی نکرده و آنچه به علت وکاولگیری و غیره که به تخفیف مقرر شده متوجه ایشان باشد. موافق حق وحساب باز یافت نمایند. وزارت رفعت پناه عزت ومعالی دستگاه آصفی جلالاخواجه بیگا وزیر خراسان چون مالیه جماعت ذیل رعایای رعیت خانه که به تخفیف مقرر نشده به تخفیف رسیده مشخص نمایند.

جماعت کاولیان و جماعت لولیان و جماعت سندویان مشهور به خطیران و جماعت حسن ابداللو ووجماعت بغداد لو وتوابع که از جمله رعیت خانه الکا مذکورچه مبلغ رسد جماعت ظهر است که به تخفیف مقرر شده و چه مبلغ رسد جماعت فوق است که می باید از عهده مالیه خود بیرون آیند و نسخه منقحه ورسدجمعی که به تخفیف مقرر است درست داشته بدفتر خانه همایون فرستد که مستوفیان عظام کرام دیوان اعلی بعد از عرض  در دفاتر از این قرار عمل نمایندواگر تا ورود حکم اشرف مستاجر و همه ساله دار بررسد جمعی که به تخفیف مقرر شده در سجقان چیزی گرفته باشد نسخه آنرا به دفتر خانه همایون فرستد که از آن قرار جمع شده همه ساله حساب شود و به آنچه کسر نماید بعد از عرض عوض دهنده همه ساله دارومستاجر وجوه رعیت خانه الکاء مذکور از تاریخ صدور بر آنچه اشرف به شرح عمل نموده به علت رسد جمعی که به تخفیف مقرر شده طلبی ننمایند ورسد جمعی که به تخفیف مقرر نشده بر آنچه وزیر خراسان سازد وتصدیق وزیر گرفته به دیوان آورند. مستوفیان عظام رقم این عطبه در دفاتر خلود ثبت نموده و از شایبه تغییر و تبدیل مصون شناسد و آنچه به علت مالیه رسد جماعتی ظهر جمع باشد از دفتر اخراج نمایند و رسد جمعی که به تخفیف مقرر نشده از قرار آنچه وزیر خراسان مشخص سازد نسخه به دیوان فرستد. بعد از عرض در دفاتر عمل نمایند. در این باب قدغن دانند فی تاریخ محرم الحرام سنه ۱۰۴۶جماعت کهنه فروشان وکهنه چینان وجاعتایینه داران وریگ بندان وجماعت گاوگله بانان وچوپانان وجماعت ماماچکان وآسیابان و ساربانان وسورمالان و دشتبانان و ترک طیبان و حرامان ولش کشان و...

لوحه ای به خط رقاع در داخل رواق پنجم در ضلع شمالی حیاط مسجد می باشد و تاریخ آن اول رجب سال ۹۲۱است. این کتیبه تا بحال خوانده نشده و برخی از واژه ها آسیب دیدهاست.

مضمون کلی آن مربوط به زمان فرمانروایی امیر سلطان (۹۱۹-۹۲۱)هجری قمری بر قاین بوده که از سوی شاه اسماعیل صفوی به این مقام منصوب شده بود.

مسجد جامع قاین به عنوان یک اثر مهم تاریخی و مذهبی و خصوصیات معماری با نبوغ به شماره ۲۹۵در فهرست آثار ملی ایران قرار گرفته است. لازم است از آسیبهای انسانی و طبیعی در امان بماند و طرح ساماندهی اطراف آن به اجرا در آید.