Secara historis, rencana untuk mendirikan Mesjid Agung An Nur telah ada sejak tahun 1963. Namun baru direalisasikan pada tahun 1966 ketika Kaharuddin Nasution menjadi Gubernur Riau.
Pada 27 Rajab 1388 H atau bertepatan dengan 19 Oktober 1968 Mesjid Agung An Nur diresmikan penggunaannya oleh Arifin Achmad, Gubernur Riau waktu itu. Pada tahun 2000 ketika Saleh Djasit menjadi Gubernur Riau, Mesjid Agung An Nur direnovasi secara besar-besaran. Bila pada masa Gubernur Kaharuddin Nasution areal Mesjid An Nur hanya seluas 4 hektar dengan daya tampung sekitar 2000 jemaah, maka pada masa Gubenur Saleh Djasit areal mesjid diperluas hingga mencapai 12,6 hektar dengan daya tampung sekira 3000 jemaah.
Mesjid Agung An Nur Riau yang kita saksikan begitu megah saat ini bukanlah bangunan asli hasil pembangunan tahun 1966 dan diresmikan tahun 1968. Tapi merupakan bangunan hasil renovasi total dan pembangunan kembali dari masjid Agung An Nur yang lama. Di pergantian milenium tahun 2000 lalu, pada saat Riau dibawah kepemimpinan Gubernur Saleh Djasit, Masjid Agung An Nur yang lama di rombak total ke bentuknya saat ini.
Dari pembangunan tahun 2000 tersebut luas lahan mesjid ini bertambah tiga kali lipat dari sebelumnya yang hanya seluas 4 hektar menjadi 12.6 hektar. Luasnya lahan mesjid baru ini memberikan keleluasaan bagi penyediakan lahan terbuka untuk publik Pekanbaru termasuk di dalamnya kawasan taman nan hijau dan lahan parkir yang begitu luas
Dalam sejarahnya Masjid Agung An Nur pernah menjadi kampus bagi Fakultas Ushuluddin Institut Agama Islam Negeri (IAIN) Sultan Syarif Kasim Pekabaru di awal pendiriannya hingga tahun 1973. IAIN Sultan Syarif Kasim kini menjadi Universitas Islam Negeri Sultan Syarif Kasim (UIN Suska) Pekanbaru.
