Jauh sebelum Indonesia merdeka, ketika masih dalam masa peperangan dengan Belanda, Masjid Besar Al-Ihsan Pakisaji sudah ada, sudah berdiri. Karena masjid besar tersebut di atas berdiri pada tanggal 14 Januari 1924. Ini berarti 21 tahun sebelum Indonesia merdeka Masjid ini sudah hidup bersama warga Muslim di Pakisaji. Dan sepuluh tahun kemudia diadakan renovasi fisik masjid dengan merubah dua menara, yaitu sebelah kanan dan kiri masjid.

Masjid Besar Al-Ihsan Pakisaji waktu itu termasuk masjid paling besar di Kecamatan Pakisaji. Dan satu-satunya masjid yang ada, sehingga jamaahnya/ jamaah sholat jumat dan hari raya diikuti warga sekecamatan Pakisaji. Perlu diketahui bahwa sebelum berdirinya Masjid Besar Al-Ihsan Pakisaji, masyarakat Pakisaji melaksanakan Sholat Jum’at mupun Sholat Hari Raya di Masjid Jami’ Kota Malang dengan naik dokar, cikar, maupun berjalan kaki. Namun setelah masjid berdiri, masyarakat Kecamatan Pakisaji tidak lagi ke Malang.

Masalah tempat berdirinya masjid pada awalnya tidak semua tokoh menyetujuinya. Sebagian menghendaki didirikan di Pakisaji Utara tepatnya di Gang 1 dan sebagian yang lain menghendaki di Desa Karangpandan di sekitar pertigaan Dusun Bendo dan Desa Karangpandan. Sesungguhnya dua tempat tersebut sudah ada masjid, namun sangat kecil ukurannya sepeti surau atau langgar.

Akhirnya Pemerintah Tingkat Kecamatan terpaksa turun tangan dan Camat atau masyarakat menyebutnya dengan Ndoro Asten menetapkan bahwa masjid harus berdiri di tengah, tidak di utara maupun di selatan. Yaitu tempat sekarang ini. Dan kebetulan tanah yag ditunjuk adalah tanah milik Bapak Moh. Ihsan. Sedangkan pemilik tanah tersebut tidak keberatan dan siap mewaqafkan tanahnya untuk masjid. Akhirnya nama masjid diambil dari nama muwafiq yaitu Masjid Besar Al-Ihsan Pakisaji.

Perlu diketahui bahwa berdirinya masjid tersebut tidak lepas dari ketokohan Bapak Moh. Syahid sekaligus ketua takmir yang pertama. Setelah mendapat restu dari camat, beliau langsung mengumpulkan tokoh-tokoh masyarkat dan pemuda. Bapak Moh. Syahid juga mendapat dukungan moral dari Pengasuh Pondok Pesantren Sonotengah KH. Moh. Said yang kelak pondoknya pindah ke Ketapan Kepanjen. Untuk mengumpulkan dana waktu itu tidak semudah sekarang, ada yang mengumpulkan dengna mengedarkan klontang ke pasar-pasar. Ada yang keluar kota bahkan sampai Surabaya.

Tokoh-tokoh yang ikut aktif antara lain, H. Ridwan, H. Damanhuri, H. Ibrohim, H. Abu, dan H. Kasan Anwar. Itulah sejarah Masjid Besar Al-Ihsan Pakisaji.