ইমাম গায্যালীর পিতার নাম ছিল 'মুহাম্মদ তৃসী'। 'তৃস' নগরের অধিবাসী হিসেবে তাকে বলা হতো 'তৃসী'। তার একটি ছোট্ট দোকান ছিল পশমী সুতার। সেখানে তিনি পশমী সুতা বুননের কাজ করতেন। এই সূত্রে তাকে বলা হতো গায্যালী। ইমাম গায্যালীর পিতা লেখাপড়া জানতেন না। কিন্তু আলেম, ফকীহ ও সুফী সাধকদের প্রতি তার অসাধারণ ভক্তি ও ভালবাসা ছিল। তাদের মজলিসে তিনি যাতায়াত করতেন। আসলে তিনি ছিলেন একজন দরিদ্র দ্বীনদার লোক। তার স্বভাব ছিল, কষ্ট করে নিজ হাতে যা রোজগার করতেন তা দিয়েই জীবিকা নির্বাহ করতেন। অন্য কোনো খাবার তিনি গ্রহণ করতেন না। হয়ত এই দুটি মহৎ গুণের কারণেই আল্লাহ্ পাক তাকে দু'জন বিশ্বনন্দিত সুপুত্র দান করেছিলেন। 'মুহাম্মদ' ছাড়া তার অপর ছেলের নাম ছিল 'আহমদ'।

পুত্র 'মুহাম্মদ' ও 'আহমদ'-কে শিক্ষাদীক্ষা দেয়াই ছিল 'মুহাম্মদ তুসী'র জীবনের স্বপ্ন। কিন্তু সে স্বপ্ন বাস্তবে রূপায়িত হবার পূর্বে দুই ছেলেকে প্রাথমিক মক্তবে ভর্তি করানোর আগেই তাকে দুনিয়া থেকে বিদায় নিতে হয়। তার হাতে অর্থ-কড়ি বলতে তেমন কিছু ছিল না। এরপরও তার স্বপ্ন ছিল, হাতে টাকা কড়ি যা আছে তা দুই সন্তানের শিক্ষাদীক্ষার জন্যে ব্যয় করবেন। তার একজন বন্ধু ছিলেন সূফী। নাম, আবু হামেদ আহমদ ইবনে মুহাম্মদ রাযেকানী। ইমাম গায্যালীর (রহ) পিতা যখন বুঝতে পারলেন যে, হায়াত তাকে দুনিয়াতে আর বেশি দিন থাকার সুযোগ দেবে না, তখন দরবেশ বন্ধুকে ডেকে বললেন, আমার সামান্য অর্থকড়ি আর এই দুই সন্তান আপনার হাতে সোপর্দ করলাম। আমার অন্তিম ইচ্ছা হলো, এই অর্থকড়ি তাদের লেখাপড়ায় ব্যয় করবেন। যেভাবে হোক তারা ইল্ম হাসিল করে মানুষ হোক- এটাই আমার অন্তিম কামনা।

মুহাম্মদ তৃসীর ইন্তেকালের পর 'সূফী' দুই ছেলেকে স্থানীয় মক্তবে ভর্তি করান। মক্তবে প্রথমে কুরআন মজীদ, এরপর অন্যান্য বিষয় ও অংক শিক্ষার ব্যবস্থা করেন। কিছুদিনের মধ্যে পিতার রেখে যাওয়া অর্থ শেষ হয়ে যায়। সূফী মুহাম্মদ ও আহমদকে মক্তবের লেখাপড়া শেষ করার পর মাদ্রাসায় ভর্তির ব্যবস্থা করেন।

'মুহাম্মদ' ও 'আহমদ' দুই ভাই যে মাদ্রাসায় ভর্তি হলেন, সে মাদ্রাসার নিজস্ব ওয়াক্ফ সম্পত্তি ছিল। সেই তহবিলের ভাতা দিয়ে ছাত্ররা খাওয়া পরার ব্যাপারে নিশ্চিন্ত মনে জ্ঞান চর্চায় মশগুল থাকতে পারতো। মাদ্রাসায় মুহাম্মদ প্রথম থেকেই অসাধারণ যোগ্যতা, প্রতিভা ও সৃজনশীলতার পরিচয় দেয়। ফিকাহ, নাহু (আরবী ব্যাকরণ) ভাষাতত্ত্ব, কুরআন, হাদীস প্রভৃতি বিষয়ে খুব দ্রুত জ্ঞান অর্জন করে। তাছাড়া খুব শীঘ্রই নিজের মনের ভাব ও চিন্তাধারা আরবী ভাষায় লেখার ও বলার যোগ্যতা অর্জন করে। আসলে এসব বিষয়ে জ্ঞানার্জনের সাহায্যে মুহাম্মদ গায্যালী ছোটবেলা থেকেই মহাসত্যের সন্ধান করছিল।