450 (1058) yılında İran'ın Horasan bölgesinde, yetiştirdiği âlimler ve devlet adamlarıyla tanınan Tûs'ta (bugünkü Meşhed) dünyaya geldi. 451'de (1059) doğduğu şeklinde bir kayıt varsa da (İbn Hallikân, IV, 216) bu bilgi itimada şayan görülmemektedir. Hüccetülislâm, Zeynüddin gibi lakaplarla anılır. Künyesi Ebû Hâmid olmakla birlikte onun Hâmid adında bir oğlunun olup olmadığı bilinmemekte, eğer varsa küçük yaşta ölmüş olabileceği düşünülmektedir. Ortaçağ Batı skolastiklerince Abuhamet ve Algazel diye tanınmaktaydı. Doğduğu kasabaya nisbetle Tûsî diye de anılmakla birlikte onun adını bile unutturacak derecede meşhur olan nisbesi Gazzâlî'dir (Gazâlî). Yazılışları aynı olan bu iki nisbeden hangisinin doğru olduğu meselesi eski kaynaklarda ve yeni araştırmalarda tartışılmış, fakat kesin bir sonuca varılamamıştır. Zehebî'nin aktardığı bir anekdota göre (Aʿlâmü'n-nübelâʾ, XIX, 343-344) bizzat kendisi, "İnsanlar beni çift 'z' ile (Gazzâlî diye) anıyorlar; halbuki ben Gazâle denilen bir köydenim" demiştir. Buna benzer bir açıklama, onun kızlarından birinin soyundan geldiği rivayet edilen Şeyh Necmeddin Muhammed'e de nisbet edilmiştir (Feyyûmî, el-Miṣbâḥu'l-münîr, "ġzl" md.; Zebîdî, I, 18). İzzeddin İbnü'l-Esîr, Safedî, Ahmed b. Muhammed el-Feyyûmî gibi tarihçiler Gazâlî şeklindeki okuyuşu tercih ederler. Başta W. Montgomery Watt olmak üzere şarkiyatçıların çoğu ile bazı çağdaş müslüman araştırmacılar da bu imlâyı benimsemişlerdir. Buna karşılık eski tarih ve tabakat müelliflerinin büyük çoğunluğuna göre Ebû Hâmid, babasının mesleğine (gazzâl "yün eğirici, iplikçi") nisbetle Gazzâlî diye anılmıştır. Nitekim İbn Hallikân da Gazâlî şeklindeki okuyuşu yaygın kullanıma aykırı görür; ayrıca bir kimseyi mesleğine nisbetle anmanın Hârizm ve Cürcân yörelerinde âdet olduğunu belirtir (Vefeyât, I, 98). Nevevî de bunun mâruf kullanım olduğunu ifade etmiştir. Bu bilgiyi aktaran Murtazâ ez-Zebîdî'nin bir alıntısına göre İbnü's-Sem'ânî, "Tûs halkına Gazâle köyünü sorduğumda onu tanımadılar" demiştir (İtḥâfü's-sâde, I, 18). Gerçekten bu isimde bir köyün varlığından sadece tartışma konusu olan nisbe dolayısıyla bahsedilmektedir. Zebîdî, bu nisbenin imlâsıyla ilgili tartışmaları özetledikten sonra İbnü'l-Esîr'in tercih ettiği Gazzâlî şeklindeki okuyuşu (el-Lübâb, II, 379), son dönem tarih ve ensâb yazarları tarafından itimada şayan bulunan görüş olarak değerlendirir (İtḥâfü's-sâde, I, 18).
Fars asıllı olduğu sanılan Gazzâlî'nin ailesi hakkındaki bilgiler son derece azdır. Kendisiyle aynı künye ve nisbeyi taşıyan bir amcasının veya büyük amcasının, daha zayıf bir ihtimalle de dayısının bulunduğu bilinmektedir. Sonraları özellikle sûfî kimliğiyle büyük ün kazanacak olan Ahmed el-Gazzâlî adlı kendinden küçük bir erkek kardeşi, birkaç da kız kardeşi vardır. Muhtemelen tasavvufa eğilimi bulunan babası Muhammed, bir yandan Tûs'taki iplikçi dükkânında el emeği ürününü satarak geçimini sağlarken bir yandan da aydın çevreyle ilişki kuruyor, katıldığı cami derslerinde bilgisini arttırıyor, hatta imkânı ölçüsünde ilim erbabına maddî destek sağlıyordu. Bu arada oğulları Muhammed ve Ahmed'in de iyi bir öğrenim görmelerini arzuluyordu. Onları dilediği gibi okutmaya ömrünün yetmeyeceğini anlayınca bir sûfî dostundan oğullarının eğitimiyle ilgilenmesini rica etti. Gazzâlî muhtemelen okuma yazma, Kur'ân-ı Kerîm'in ezberlenmesi, dil bilgisi ve aritmetik gibi alanlarda dönemin geleneksel ilk öğrenimini bu baba dostunun desteğiyle görmüştür. Ayrıca gerek babasının gerekse yeni hâmisinin zühd ve tasavvufa eğilimli ruhî yapılarının daha çocukluk döneminde Gazzâlî'nin mânevî hayatını etkilediğini ve ileride teşekkül edecek olan tasavvufî kişiliği üzerinde müessir olduğunu düşünmek mümkündür. Gazzâlî ve kardeşinin pek varlıklı olmayan hâmileri, babalarının geride bıraktığı az miktardaki imkânı onların eğitimi için kullandı ve kendilerine daha fazla yardımcı olamayacağını belirterek bir medreseye girmelerini tavsiye etti.
İleri düzeydeki ilk öğrenime, 465'te (1073) Ahmed b. Muhammed er-Râzkânî (Râzekânî) adlı âlimden fıkıh dersleri alarak Tûs'ta başlayan Gazzâlî daha sonra Cürcân'a giderek burada İsmâilî denilen bir zatın öğrencisi oldu. Tâceddin es-Sübkî, bunun İmam Ebû Nasr el-İsmâilî olduğunu kaydediyorsa da gerek aynı müellif gerekse Abdülkerîm es-Sem'ânî, Ebû Nasr'ın Gazzâlî'nin doğumundan kırk beş yıl önce (405/1014) vefat ettiğini kaydetmişlerdir (Ṭabaḳāt, VI, 195; el-Ensâb, I, 251-252). Sübkî'yi böyle bir hataya Zehebî'nin düşürmüş olabileceğini belirten Ferîd Cebr, Gazzâlî'nin bu hocasının 487'de (1094) vefat eden Ebü'l-Kāsım İsmâil b. Mes'ade el-İsmâilî olabileceğini ileri sürer (MIDEO, I [1954], s. 77, dipnot 2). Sem'ânî, Ebû Nasr'ın da dahil olduğu İsmâilî ailesinin üyeleri arasında zikrettiği Ebü'l-Kāsım'ın 470'lerde (1078) vefat ettiğini belirtir ve onu bir hadisçi olarak anar (el-Ensâb, I, 252).
Es'ad el-Meyhenî adlı bir dostunun kendisinden naklen anlattığına göre Gazzâlî, beş yıl süren Cürcân'daki öğreniminden sonra bir kafile içinde Tûs'a dönerken soyguncular tarafından yolları kesilir ve her şeyleri alınır. Gazzâlî eşkıyanın peşine düşer ve reislerinden hiç olmazsa ders notlarının (ta'lîka) geri verilmesini ister; Cürcân'a sırf o notlardaki bilgileri edinmek için gittiğini söyler. Eşkıya reisi, bilgileri hâfızasına yerleştirmek yerine kâğıtlarda bırakmasından dolayı onunla alay eder; notlarını da geri verir. Bu eleştiriyi Allah'ın bir ikazı sayan Gazzâlî üç yıl içinde notların tamamını ezberlediğini belirtir (Sübkî, IV, 103). Sem'ânî, aynı hâtırayı vezir Nizâmülmülk'ün de anlattığını kaydetmiştir (Sübkî, a.y.). Gazzâlî'nin ilk kalem denemesi sayılan (Bouyges, s. 7) bu notlar, her ne kadar Murtazâ ez-Zebîdî tarafından et-Taʿlîḳa fî fürûʿi'l-meẕheb şeklinde kaydedilmişse de daha eski kaynaklarda sadece Taʿlîḳa diye anılmakta ve muhtevası hakkında bilgi verilmemektedir. Ancak Gazzâlî'nin Cürcân'daki hocasının İsmâil b. Mes'ade olduğu ihtimali doğru kabul edilir, Sem'ânî'nin de bu zatın hadisle uğraştığı yolunda verdiği bilgi dikkate alınırsa Gazzâlî'nin yaygın görüşün aksine Cürcân'da sadece fıkıh tahsil etmediği, en azından fıkıhla birlikte hadis de okuduğu ve sonuç olarak onun Cürcân'dan döndükten sonra ezberlediği notların tamamının veya bir kısmının hadislerden oluştuğu düşünülebilir. Böylece Gazzâlî'nin öğrenim metoduna yöneltilen, esasen onun daha sonra ulaşacağı mütefekkir kişiliğiyle de bağdaşmayan ezbercilik ithamının (Zekî Mübârek, s. 33-34) gerekçesi de ortadan kalkmış olur. Montgomery Watt, bu dönemde Tûs ve Cürcân'da özellikle fıkıh ve hadis alanlarındaki eğitim düzeyinin hayli yüksek olabileceğini, Gazzâlî'nin de her iki şehirdeki öğrenimi sırasında daha ziyade bu alanlara yöneldiğini belirtir. Aynı araştırmacının kaydettiği bilgiye göre daha önce başlatılmış olan burs geleneğini Nizâmülmülk de devam ettiriyordu (Müslüman Aydın, s. 16-17). Gazzâlî, ilmî imkânlar yanında muhtemelen böyle bir maddî imkânı da kullanmak düşüncesiyle 473'te (1080) Tûslu bir grup gençle birlikte Nîşâbur'a giderek buradaki Nizâmiye Medresesi'ne girdi ve dönemin en tanınmış kelâm âlimi olan İmâmü'l-Haremeyn el-Cüveynî'nin öğrencisi olma şansını elde etti.
Kaynakların ittifakla belirttiği gibi Gazzâlî'nin olağan üstü bir zekâ ve hâfızaya sahip olduğu dikkate alınırsa onun Nîşâbur'a gitmeden önce geçirdiği en az on iki yıllık öğrenimi süresince başta fıkıh olmak üzere hadis, akaid, gramer gibi geleneksel bilgi dallarında hayli yetişmiş olduğu kesinlikle söylenebilir. Nîşâbur'da da bu alandaki öğrenimine devam etti. Ayrıca burada mantık ve çeşitli tartışma disiplinleriyle kelâm ilmi yanında felsefenin bazı konularında elemanter bilgiler edinmiş olmalıdır. Esasen en başta kelâmcılığıyla tanınan ve belki de ilk defa kendisini kelâma yönlendirmiş olan hocası Cüveynî'nin felsefeye âşinalığı vardı, hatta belli ölçüde felsefî bir nosyona da sahipti. Nitekim Şehristânî'nin kaydettiğine göre Cüveynî, insan için kudret ve istitâat tanınmamasının akıl ve tecrübeye aykırı olduğu şeklindeki düşüncesi yüzünden filozofların peşinden gitmekle suçlanmıştır (el-Milel, I, 98-99). Sübkî, Gazzâlî'nin Nîşâbur'a gittikten sonra gayet sıkı geçen bir öğrenim süresince Şâfiî fıkhı, hukuk ekolleri arasındaki tartışma teknikleri (hilâf), cedel, akaidle fıkhın kaynakları ve mantık alanlarında parlak bir âlim olarak yetiştiğini belirttikten sonra ayrıca hikmet ve felsefe okuduğunu ve bütün bu disiplinlerde sağlam bir formasyon kazandığını ifade eder (Ṭabaḳāt, IV, 103). "Gazzâlî derin bir denizdir" diyen hocası ona sempati duymakla birlikte söylendiğine göre için için onu kıskanmaktan da kendini alamazmış (a.g.e., IV, 103, 106). Gazzâlî'nin muarızlarından Ebü'l-Ferec İbnü'l-Cevzî'nin anlattığına göre onun bu sırada yazdığı el-Menḫûl adlı fıkıh kitabını inceleyen Cüveynî eseri çok beğendiğini, "Beni sağken mezara gömdün; ölümümü bekleyemez miydin?" şeklindeki sözleriyle ifade etmiştir (el-Muntaẓam, IX, 168-169). Çağdaşı Abdülgāfir el-Fârisî, "İslâm'ın ve müslümanların hücceti, din önderlerinin imamı, konuşma ve ifade kabiliyeti, mantık, zekâ ve tabiat itibariyle benzeri görülmemiş bir kişi" diye nitelediği Gazzâlî'nin bu dönemdeki öğrenimi sırasında kısa zamanda bütün arkadaşlarını geride bıraktığını, ayrıca öğretim faaliyetlerinde hocasına yardım ettiğini ve sonuçta eser telif edecek düzeye ulaştığını belirtir (Sübkî, IV, 107).
Gazzâlî'nin tasavvufî kişiliğinin oluşma döneminin başlangıcını tesbit bakımından önemli bir nokta da onun Nîşâbur'daki öğrenimi sırasında, Kuşeyrî'nin öğrencilerinden olup Tûs ve Nîşâbur sûfîlerinin meşhurlarından biri haline gelen Ebû Ali el-Fârmedî'den öğrenim görmesidir. Bu sebeple Gazzâlî'yi tasavvufî pratiklere yönelten kişinin Fârmedî olduğu söylenir (a.g.e., IV, 109). Kendisinin de, "Şeyh Ebû Ali el-Fârmedî'den duydum" demesi (el-Maḳṣadü'l-esnâ, s. 120) bu zatla görüşüp ondan faydalandığını göstermektedir. Bununla birlikte onun bu dönemde tasavvufa duyduğu ilgi Fârmedî ile görüşmeleriyle sınırlı kalmış, Fârmedî'nin 477'de (1084) vefatı üzerine Gazzâlî kelâm ve felsefe gibi alanlarla meşgul olmayı sürdürmüştür.
Cüveynî'nin vefatı üzerine (478/1085) Nizâmülmülk'ün nerede olduğu bilinmeyen karargâhına gitmesi Gazzâlî'nin hayatında önemli bir dönüm noktası teşkil eder. Onun bu makama gitmeye karar vermesinde, devletin imkânlarını ilim erbabına cömertçe sunan kültürlü vezirin himayesini kazanma, ilim ehlinin "nimetler içinde yüzdüğü" (Bündârî, s. 58) bu karargâhtaki geniş imkânlardan faydalanarak çalışmalarını rahat bir şekilde sürdürme düşüncesinin etkili olduğunda şüphe yoktur. Ayrıca Gazzâlî, Nizâmülmülk'ün himayesindeki seçkin âlimlerle tanışarak onlardan istifade etmeyi de düşünmüş olabilir. Gerçekten daha yirmi sekiz yaşında bulunmasına rağmen çağdaşı Abdülgāfir el-Fârisî'nin belirttiğine göre Nizâmülmülk tarafından saygıyla karşılanması (Sübkî, IV, 107) onun Gazzâlî'yi yakından takip ettiğini göstermektedir. Büyük bir devlet ve siyaset adamı olan Nizâmülmülk ilmini ve zekâsını keşfettiği Gazzâlî'yi, hem mensubu bulunduğu Şâfiî mezhebini güçlendirme hem de -daha önemlisi- Sünnî yönetime karşı baş kaldıran ve İslâm dünyası için büyük tehlike teşkil eden bâtınî hareketini durdurma planı açısından uygun bir eleman olarak görmüş olabilir. Yine Abdülgāfir'in bildirdiğine göre vezirin karargâhı âlimlerin, din büyüklerinin ve edebiyatçıların buluşma yeriydi. Genç Gazzâlî böyle bir ortamda geçirdiği altı yıl içinde bu entelektüel çevreden, iyi yetişmiş ilim ve fikir ehlinden faydalanma, ayrıca yaptığı ilmî müzakere ve tartışmalarla başarısını ve ününü arttırma imkânı buldu. Böylece Gazzâlî, "Daha önce Horasan'ın imamı iken şimdi de Irak'ın imamı oldu" (a.g.e., IV, 107).
Cemâziyelevvel 484'te (Temmuz 1091) vezir tarafından Bağdat Nizâmiye Medresesi müderrisliğine tayin edilen Gazzâlî, buradaki çalışmaları sırasında dindarlığı ve faziletiyle tanınan Halife Muktedî-Biemrillâh'ın ilgi ve desteğine mazhar oldu (Abdülemîr el-A'sem, s. 36, 37-38). Kaynaklarda, Gazzâlî'nin dört yıl süren Nizâmiye'deki müderrislik dönemi aynı zamanda onun kitap telifi bakımından en verimli devresi olarak gösterilir (Sübkî, IV, 107). Ancak daha önce Nizâmülmülk'ün karargâhında geçirdiği altı yıl içinde de telif çalışmaları yapmış olmalıdır. Nitekim Taʿlîḳa ve el-Menḫûl dışındaki en az yirmi beş eserini Nizâmiye Medresesi'nden ayrılmadan önce yazmış olup Maurice Bouyges'un tesbitine göre (Essai de chronologie, s. 10-40) aralarında el-Basîṭ, el-Vasîṭ, el-Vecîz, el-Münteḥal fî ʿilmi'l-cedel, Meʾâḫiẕü'l-ḫilâf, Şifâʾü'l-ġalîl, Maḳāṣıdü'l-felâsife, Tehâfütü'l-felâsife, Miʿyârü'l-ʿilm, Miḥakkü'n-naẓar, Mîzânü'l-ʿamel, el-Müstaẓhirî (Feḍâʾiḥu'l-Bâṭıniyye), el-İḳtiṣâd fi'l-iʿtiḳād gibi kitaplarının da bulunduğu bu eserlerin tamamını dört yılda telif etmiş olması uzak bir ihtimaldir. Ayrıca onun bu dönemde hocalık, felsefeye ve Bâtınîliğe dair incelemeleri gibi daha başka ciddi meşguliyetleri de vardı.
el-Münḳıẕ'daki açıklamalarına göre (s. 16-17) Gazzâlî burada bir yandan, içlerinde tanınmış Hanbelî âlimlerinden Ebü'l-Vefâ İbn Akīl ve Ebü'l-Hattâb el-Kelvezânî'nin de bulunduğu (İbnü'l-Cevzî, IX, 168; İbn Kesîr, XII, 174) 300'e yakın öğrenciye ders veriyor ve tasnif faaliyetlerini sürdürüyor, öte yandan da felsefe üzerine incelemeler yapıyordu. Yaklaşık iki yıl süren bu incelemeler sayesinde, bizzat kendisinin de eleştirdiği öteki kelâmcılardan farklı olarak tenkit etmeyi düşündüğü Meşşâî-İşrâkī felsefeyi derinden kavrama imkânını elde etti. Ayrıca bir yıl süreyle de felsefe hakkında edindiği yeni bilgileri gözden geçirdi; yaptığı değerlendirmelerle filozofların doğru ve yanlış görüşlerini şüpheye yer bırakmayacak şekilde tesbit etti. Ardından Bâtınîlik incelemelerine koyuldu. Bu arada bazı kimseler, onun Bâtınîliğin tenkidine girişmeden önce bu akımın düşünce ve ilkeleri hakkında bilgi vermesinin bir bakıma Bâtınîler'in işine yaradığını düşünerek Gazzâlî'nin bu yöntemini eleştirdiler. Ancak Gazzâlî, bir düşünce ve inancı yeterince tanıyıp mahiyeti hakkında tarafsız bilgi vermeden onu eleştirmenin kendi ilim anlayışıyla bağdaşmadığı fikrinde olduğundan (el-Münḳıẕ, s. 33-34) yöneltilen bu tenkitleri dikkate almadı.
Gazzâlî el-Münḳıẕ'da, geniş çaplı inceleme ve araştırmasının dördüncü ve son halkası olarak tasavvufu zikreder. Ancak bu bilgiyi kronolojik olarak değerlendirmemek gerekir. Zira onun henüz çocukken himayesine verildiği baba dostu bir sûfî idi. Ayrıca kendisinin Tûs'ta bulunduğu sırada gördüğü bir rüyayı "şeyhim" dediği Yûsuf en-Nessâc'a anlattığı ve onun yorumu üzerine tasavvuf hakkındaki kuşkularının ortadan kalktığını söylediği rivayet edilir (Zebîdî, I, 9). Öte yandan Ebû Ali el-Fârmedî ile ilişkisi de onun tasavvufa olan temayülünü geliştirmişti. Ancak tasavvuf alanındaki son çalışması diğerlerinden çok farklı olup hakikati arama kararının bir gereği olarak ilmî ve tenkitçi düzeyde yürütülen fikrî bir çalışmadır. Gazzâlî, muhtemelen daha önce Fârmedî vasıtasıyla Kuşeyrî'nin er-Risâle'si hakkında bilgi edinmiş ve belki de bu eseri okumuştu. Son tasavvuf çalışmasında bu eseri yeniden inceledi. Ayrıca Muhâsibî'nin er-Riʿâye li-ḥuḳūḳıllâh'ı ve diğer eserleriyle Ebû Tâlib el-Mekkî'nin Ḳūtü'l-ḳulûb'u, Cüneyd-i Bağdâdî, Ebû Bekir eş-Şiblî, Bâyezîd-i Bistâmî gibi tasavvuf büyüklerinden intikal eden mirası da tetkik etti ve böylece elde edilmesi mümkün olan bütün bilgileri kazanarak önde gelen mutasavvıfların nazarî mahiyetteki görüş ve düşüncelerinin künhüne vâkıf oldu. Bu birikim sayesinde tasavvufun en gizli ve derin noktalarına ulaşmanın nazarî öğrenimle değil zevk ve hal ile, sıfatları değiştirmekle mümkün olacağı kanaatine ulaştı (el-Münḳıẕ, s. 44).