Syekh Abdul Gani diyakini berasal dari Saudi Arabia dan masuk ke Indonesia melalui pintu Serambi Mekah Aceh. Malah bukan hanya dia, banyak Muballigh lain datang dari negara yang sama dan masuknya juga dari pintu sama untuk menyebarkan agama Islam di Sulawesi Selatan serta Indonesia pada umumnya.
Pemerintah Kabupaten Bantaeng di era kepemimpinan H Azikin Solthan sebagai Bupati Bantaeng Periode 1998-2008, mengabadikan nama Syekh Abdul Gani dengan membangun Masjid yang dinamai sesuai namanya.
Masjid itu kemudian dipercantik, diperbaiki dan dibuat semakin megah sejak H Azikin Solthan yang bernama lengkap (DR. H. Azikin Solthan, M.Si) hingga Bupati Bantaeng Periode 2008-2018 yakni Prof. DR. H. M. Nurdin Abdullah, M.Agr.
Lalu berlanjut kembali dengan Bupati Bantaeng Periode 2018-2023 yang baru sekitar setahun menjabat yakni DR. H Ilham Azikin, M.Si dengan kepedulian yang sama dari kedua pemimpin sebelumnya.
Terbukti sejumlah kegiatan keagamaan dipusatkan di Masjid Agung Syekh Abdul Gani. Termasuk Gema Ramadhan 1440 H meliputi Pasar Murah Ramadhan, Buka Puasa Bersama setiap harinya serta kegiatan keagamaan lainnya.
