Kubah besar yang terletak di bahagian kiblat masjid itu adalah merupakan tradisi keagungan Islam yang berkekalan dari zaman silam, diilhamkan dari masjid-masjid lama yang besar dan termasyhur di dunia seperti Masjid Al-Aqsa di Baitul-Makdis, Masjid Biru yang termasyhur di Istanbul dan Masjid Jame di New Delhi dan Lahore. Demikian juga menara yang setinggi 215 kaki itu rekabentuknya diilhamkan daripada Masjidil-Haram di Mekah dan Masjid Nabi di Madinah.

Pengenalan tradisi ini mencerminkan bahawa ugama Islam tidak lapuk dek hujan dan tidak lekang dek panas, sehinggalah Hari Qiamat. Disamping itu juga mencerminkan hasrat dan cita-cita umat Islam supaya sentiasa mematuhi syariat Islam pada zaman ini dan akan datang terpaksa terpaksa menghadapi dan menerima cabaran-cabaran hidup dan arus zaman yang serba moden ini. Sementara itu rekabentuk dan hiasan masjid dibahagian dalam memperkuat- kan lagi konsep yang tersebut Seorang Islam yang berada di Dewan Sembah- yang di bawah kubah besar itu akan menikmati satu suasana yang penuh khusyuk dan taqwa, bukan sahaja kerana memerhatikan keindahan hiasannya tetapi juga akan menginsafi betapa agungnya kekuasaan Allah yang yang tergambar dari seluruh pemandangan di sekitar bahagian dalam masjid itu.

Tapak Masjid Negeri Sabah ini seluas 14.5 ekar, terletak di kawasan yang strategik iaitu di persimbangan bulatan Sembulan antara Jalan Mat Salleh dan Jalan Sembulan. Di sekitar masjid itu terdapat kompleks bangunan kerajaan seperti bangunan Urusetia Kerajaan Negeri, bangunan Rumah Persekutuan yang menempatkan Jabatan-jabatan persekutuan, bangunan Jabatan Kerja Raya, Bangunan Pertubuhan Islam Seluruh Sabah (USIA), bangunan Yayasan Sabah-Institut Teknologi MARA, Maktab Sabah, Sekolah Menengah SANZAC, Sekolah Menengah Islam Toh Puan Hajjah Rahmah, Pusat Pembangunan Masyarakat, Majlis Ugama Islam Sabah dan Kampung Sembulan yang penghuninya terdiri kebanyakannya orang-orang Islam.