این مسجد بر روی دامنهٔ تپهای مشرف بر شهر نهاوند، در سمت شمال میدان قیصریه واقع شده است. ارتفاع آن از کف شبستان نسبت به کف خیابان مجاور در حدود ۵/۵ متر است و برای دسترسی به آن باید حدود ۲۵ پله را از کف میدان قیصریه پیمود تا به حیاط مسجد رسید.
بنا، طرحی مستطیل شکل دارد به طول تقریبی ۱۷ متر، و عرض ۱۲ متر و از سه فرشانداز تشکیل شده است. چهار ستون قطور، طاق و گنبد سقف مسجد را تحمل میکنند. ضخامت دیوارهای شرقی و غربی شبستان بیش از دیوارهای شمالی و جنوبی آن است. فرشانداز وسط از فرشانداز طرفین عریضتر است و با سه گنبد هم ارتفاع پوشیده شده است.
در ضلع شرقی دیوار شبستان سه پنجرهٔ مشرف به میدان قیصریه، داخل طاقنماهایی تعبیه شدهاند و جلوی آنها بالکن کم عرضی وجود دارد که پشتبام مغازههای جلوی مسجد است. مصالح به کار رفته در بنای مسجد شامل آجر با ملاط گچ و خاک است.
مسجد دارای سه در ورودی است یکی به طرف بازار قدیمی که از کف شبستان مسجد بالاتر است و دو تای دیگر نیز به طرف حیاط قدیمی مسجد باز میشوند.
مسجد از سادگی ویژهای برخوردار است و هیچ آثار و نشانهای از تزئیناتی مانند گچبری و کتیبه در جبههٔ داخلی و بیرونی آن دیده نمیشود. تنها تزئین مسجد کتیبهٔ سنگی کوچکی به ابعاد ۵۰×۲۵ سانتیمتر است که مربوط به دورهٔ سلجوقیان است.
اطراف این کتیبه و بالای آن به خط کوفی جملات «لا اله الا اللّه» و «محمد رسول اللّه» نوشته شده است. بالای قوس محراب لوحهٔ سنگی کوچکی نصب شده است که شامل تاریخ تعمیر مسجد در دورهٔ صفویه است به شرح زیر:
بسم الله الرحمن الرحیم
بو تراب آن ستودهٔ صانــع کرد تعمیر مسجدِ جامــــع
سالِ تاریخِ آن به آخرِ ماه شود از نورِ حق دلش لامع
سنهٔ ۱۱۶۱
این مسجد تاکنون به ثبت تاریخی نرسیده است امّا با توجه به قدمت بنا ثبت آن در زمرهٔ آثار تاریخی ضرورت دارد.