Al ‘Aalimul ‘allaamah Al ‘Arif Billah Asy-Syekh H. Muhammad Zaini Abd. Ghani bin Al ‘arif Billah Abd. Ghani bin H. Abd. Manaf bin Muh. Seman bin H. M, Sa’ad bin H. Abdullah bin ‘Alimul ‘allamah Mufti H. M. Khalid bin ‘Alimul ‘allamah Khalifah H. Hasanuddin bin Syekh Muhammad Arsyad; dilahirkan pada, malam Rabu 27 Muharram, 1361 H (I I Februari 1942 M).
Nama kecilnya adalah Qusyairi, sejak kecil beliau termasuk dari salah seorang yang “mahfuzh”, yaitu suatu keadaan yang sangat jarang sekali terjadi, kecuali bagi orang orang yang sudah dipilih oleh Allah SWT. Beliau adalah salah seorang anak yang mempunyai sifat sifat dan pembawaan yang lain daripada yang lainnya, diantaranya adalah bahwa beliau tidak pernah ihtilam.
‘Alimul ‘allamah Al Arif Billah Asy-Syekh H. Muhammad Zaini Abd Ghani sejak kecil selalu berada disamping kedua orang tua dan nenek beliau yang benama Salbiyah. Beliau dididik dengan penuh kasih sayang dan disiplin dalam pendidikan, sehingga dimasa kanak kanak beliau sudah mulai ditanamkan pendidikan Tauhid dan Akhlaq oleh ayah dan nenek beliau. Beliau belajar membaca AI Quran dengan nenek beliau, dengan demikian guru pertama dalam bidang ilmu Tauhid dan Akhlaq adalah ayah dan nenek beliau sendiri.
Meskipun kehidupan kedua orang tua beliau dalam keadaan ekonomi sangat lemah, namun mereka selalu memperhatikan untuk turut membantu dan meringankan beban guru yang mengajar anak mereka membaca Al Quran, sehingga setiap malamnya beliau selalu membawa bekal botol kecil yang berisi minyak tanah untuk diberikan kepada Guru yang mengajar AI Quran. Dalam usia kurang lebih 7 tahun beliau sudah mulai belajar di madrasah Darussalam Martapura.