Farklı rivayetler vardır. Gazâle kasabasından olduğu veya babası Gazzâl (iplikçi) olduğu için bu ismi aldığı söylenir. Gazzâlî umumiyetle meşhur ve makbul tutulmaktadır.