তৎকালীন ইসলামী জাহানের শ্রেষ্ঠ শিক্ষাকেন্দ্র বাগদাদের নিযামিয়া মাদ্রাসার অধ্যক্ষ পদে নিযুক্ত হয়ে ইমাম গায্যালী ৪৮৩/১০৯০ সালে মহা শান-শওকতে বাগদাদে প্রবেশ করেন। তখন তার বয়স ছিল ৩৪ বছর। যৌবন আর জ্ঞানের জোয়ারে তার চালচলন ও শৌর্যবীর্য ছিল মন্ত্রীদের মতো। পরনের পোষাক পরিচ্ছদ ছিল অতিশয় দামী নজর কাড়া।
অসাধারণ বাকশক্তি ও ব্যক্তিত্বের আকর্ষণ খুব শীঘ্রই গায্যালীকে বাগদাদে প্রসিদ্ধ ও সর্বজনপ্রিয় করে তোলে। নিযামিয়া মাদ্রাসায় তার অধ্যাপনা ও পরিচালনা সবার প্রশংসা অর্জন করে। অল্পদিন যেতে না যেতেই চারশ'র অধিক ছাত্র তার দরসে হাযির হতে শুরু করে। এমনকি বিভিন্ন মাযহাবের নেতৃস্থানীয় লোকেরাও তার দরসের আসরে বসতেন। তার জ্ঞানের বিশালতা ও অনুপম বর্ণনাশৈলী দেখে সবাই অবাক হতেন।

বাগদাদের রাজ প্রাসাদসমূহে এ সময় এমন কিছু ঘটনা ঘটে, যা ইমাম গায্যালীকে চিন্তার সাগরে নিক্ষেপ করে। ৪৮৫ হিজরীতে প্রধানমন্ত্রী খাজা নিজামুল মুল্ক নিহত হন। গুজব ছড়িয়ে পড়ে যে, মালেক শাহের ইঙ্গিতে খাজা সাহেব নিহত হয়েছেন। ৪০ দিন পর মালেক শাহ্ মারা যান। বলা হয় যে, এ ঘটনায় খলিফা মুক্তাদিরের হাত ছিল এবং তাকে বিষ পানে হত্যা করা হয়েছে।
মালেক শাহ ও খাজা নিযামুল মুল্কের প্রাণ বিয়োগের পর মালেক শাহের স্ত্রী 'তুর্কান খাতুন' রাষ্ট্রের সর্বেসর্বা হয়ে বসে। আগে থেকে মহিলার সাধ ছিল, তার ছোট ছেলে 'মাহমুদ'কে মালেক শাহের যুবরাজ হিসেবে ঘোষণা করবে। কিন্তু নিজামুল মুল্ক এর বিরোধী ছিলেন। কাজেই প্রধানমন্ত্রীকে হত্যার চক্রান্ত্রে মহিলা সহযোগিতা করে। মহিলার আরো আরজু ছিল, আব্বাসীয় খলীফা আল মুক্তাদির যেন পুত্র জাফরকে খলীফা পদে আসীন করেন- যাতে মাহমুদ ও জাফরের মাধ্যমে রাজত্ব ও খেলাফত এই দু'টিকে দুই হাতে নিয়ে খেলতে পারে। এই ঘটনা প্রবাহে ইমাম গাযযালী নিকট থেকে দেখতে পান যে, খেলাফত ও রাজত্বের ভাগ্য কখনো এর, কখনো ওর হাতে খেলনায় পরিণত হয়েছে এবং মানুষের শান-শওকত, প্রভাব-প্রতিপত্তি, সুনাম- সুখ্যাতি অতি তুচ্ছ ও অর্থহীন।
জ্ঞানী মনীষীদের অবস্থা দেখেও তার মনে সন্দেহ ও নানা প্রশ্নের সৃষ্টি হয়। তার দারসে যেসব জ্ঞানী মনীষী হাজির হতেন, তাদের অনেকেই পার্থিব শান-শওকত, প্রতিপত্তি লাভের জন্য জ্ঞান চর্চা করতেন। আল্লাহকে পাওয়া বা। সত্য অনুসন্ধানের প্রতি খুব কম লোকেরই আগ্রহ ছিল। ধন ও পদের কুমন্ত্রণা এ পর্যন্ত বেশ কয়েকবার ইমাম গাযযালীকেও ধোকা দিয়েছে। জ্ঞানী মনীষীদের সাধারণ অবস্থা ছিল, তারা খুবই জনপ্রিয় ও নন্দিত ছিলেন। কিন্তু তাদের জীবন ছিল লোক দেখানো আচার আচরণে পরিপূর্ণ।
এসব দুনিয়া পূজারী আলেমের সাহচর্য ইমাম গাযযালীকে ব্যথিত করতো। তখনকার দিনে বিভিন্ন মাযহাব ও মতের আলেমদের মধ্যে তুমুল বিতর্ক অনুষ্ঠিত হতো। কিন্তু প্রতিপক্ষকে ঘায়েল করাই ছিল প্রত্যেকের লক্ষ্য। আল্লাহকে রাজি করা বা সত্য উদঘাটন করা থেকে তারা ছিল অনেক দূরে। তিনি চিন্তা করতে লাগলেন, বাহাস বা বিতর্কের মাধ্যমে কি আল্লাহকে রাজি করানো যাবে? বিতর্কের জন্যে কি মানুষের সারা জীবন উজাড় করে দেয়া সাজে? এই বিতর্কের জন্যে তো রাত-দিন চিন্তা ভাবনায় ব্যস্ত থাকতে হয়। এভাবেই রাজকীয় শান-শওকত আর জ্ঞান-মনীষার অহংকারের প্রতি তার বিতৃষ্ণা সৃষ্টি হয়। পরিণামে আধ্যাত্মিক সাধনা ও কৃচ্ছতার জীবনের দিকে মন আকৃষ্ট হতে থাকে এবং ক্রমান্বয়ে অধ্যাপনার কাজে শিথিলতা দেখা দেয়। নিঃসঙ্গতা, একাকিত্ব, অধ্যবসায় ও চিন্তাভাবনার দিকে মন দিনের পর দিন অধিকতর ঝুঁকে পড়ে।

বর্ণিত আছে যে, ইমাম গাযযালীর ভাই আহমদ গায্যালীর সাথে কিছু কথাবার্তা ও রূহানী ঘটনা ইমাম গায্যালীকে বাগদাদের শান-শওকত ত্যাগ করতে অনুপ্রাণিত করেছিল। আহমদ গায্যালী বহু বছর একসঙ্গে তার সাথে লেখাপড়া করেছেন। কিন্তু প্রথম জীবন থেকে আধ্যাত্মিক সাধনার দিকেই তার মনোযোগ ছিল। একদিনের ঘটনা, ইমাম গাযযালী খুব গর্ব অহংকার সহকারে ওয়াজ করছিলেন। তখন আহমদ গায্যালী এসে শান্তভাবে তার সামনে একটি কবিতা পাঠ করলেন, যা তাকে দারূণভাবে প্রভাবিত করেছিল। কবিতাটির ভাবধারা ছিল :
কেন তুমি অপরকে হেদায়াত করছো, অন্যকে পথ দেখাচ্ছ, অথচ নিজে পেছনে পড়ে আছ?
ইমাম মুহাম্মদ গায্যালীর ভাই ইমাম আহমদ গায্যালী সে যুগের একজন শ্রেষ্ঠ ওলী ছিলেন। ইরফান সম্পর্কে তিনি কয়েকটি কিতাব রচনা করেন। ফার্সী ও আরবীতে তিনি কবিতা রচনা করতেন। তার বহু আধ্যাত্মিক শিষ্য ছিল। তন্মধ্যে দুজন প্রসিদ্ধ শিষ্যের নাম আইনুল কুজাত হামাদানী ও সানায়ী গাযনাবী। মাওলানা জালালুদ্দীন রূমী (রহ)-এর বিশ্ববিখ্যাত মসনবী শরীফের ব্যাখ্যাগ্রন্থ 'জাওয়াহেরুল আসরারে' ইমাম মুহাম্মদ ও আহমদ গায্যালীর মধ্যে আধ্যাত্মিক রহস্য সম্পর্কিত কয়েকটি ঘটনার উল্লেখ আছে, যা নিশ্চিতভাবে ইমাম গায্যালীর মধ্যে আধ্যাত্মিক বিপ্লবের পটভূমি রচনা করেছিল।
যাই হোক, পূর্ব থেকে ইমাম গায্যালীর অন্তরে যে চিন্তা ও সিদ্ধান্তহীনতা বিরাজ করছিল এবং রূহানী বিপ্লবের চেতনার সূত্রপাত হয়েছিল তা এখন বাস্তবে রূপ নেয়া শুরু হয়। অবস্থা এতদূর পৌঁছে যে, তিনি কথা বলার জন্যে মুখ খুলতেও পারেন না। কারো সাথে কথা বলতে মন চায় না। এমনকি একবার ছাত্রদের দরসের মজলিসে (ক্লাসে) যাবার সময় ভেবে দেখেন যে, কথা বলার কোনো প্রস্তুতি তার মধ্যে নেই। সারাক্ষণ ব্যথিত ও চিন্তাগ্রস্থ। খাওয়া ও ঘুমের রুচিও নেই। মনে মনে সিদ্ধান্ত নিলেন, বাগদাদ ত্যাগ করবেন। নিজের সম্পদের বিরাট অংশ অভাবী লোকদের মধ্যে বন্টন করে দিবেন। সিদ্ধান্ত মোতাবেক ১০৯৫/৪৮৮ হিজরীর রজব মাসে বাগদাদের নিযামিয়া মাদ্রাসার অধ্যক্ষের পদ ছেড়ে দিলেন। আর ভাই আহমদকে নিজের পক্ষ হতে নিযামিয়া মাদ্রাসার অধ্যক্ষের দায়িত্বে নিয়োগ করলেন। গরীবদের বন্টন করে দেয়ার পর নিজের বাকী সামান্য অর্থ সম্পদ স্ত্রী ও সন্তানদের ভরণ পোষণের জন্যে রেখে দিলেন। এভাবে দুনিয়া পূজার সাথে শেষ সম্পর্কটুকু ছিন্ন করলেন। হয়ত তখনও মনের আসল কথা প্রকাশ করতে চাচ্ছিলেন না। কারণ, এর পূর্বেও বহুবার দুনিয়া-পূজা থেকে মুক্তি ও পলায়নের সিদ্ধান্ত নিয়েছিলেন। কিন্তু বাগদাদের আকর্ষণ তাকে এমন চিন্তা বাদ দিতে বাধ্য করে। এবার শেষ পর্যন্ত যখন বাগদাদ ত্যাগ করলেন, তখন সত্যিসত্যি গোটা দুনিয়াকে পায়ের তলায় পিষ্ট করেই আল্লাহর মা'রেফাতের সন্ধানে বের হলেন।

বাগদাদ ত্যাগের সময় প্রচার করলেন যে, হজ্বে যাচ্ছেন। কারণ, যদি এই সাধনার পথে ধৈর্য্য ধারণ করতে না পারেন এবং ফিরে আসতে হয়, তাহলে যেন নিযামিয়ার ফকীহ্রা তার ব্যর্থতার কোনো গন্ধ না পায়। শীতের মৌসুমেই তিনি সিরিয়ার উদ্দেশ্যে যাত্রা করলেন। জীবনের সকল সুখ-সম্ভোগ ও শান-শওকত বর্জন করে দরবেশদের জীর্ণ-শীর্ণ পোষাক এখন তার গায়ে শোভা পাচ্ছে। সু-প্রসিদ্ধ ইমাম গায্যালী একজন অচেনা মুসাফির হয়ে দামেস্কে প্রবেশ করলেন। দামেস্কের (উমাইয়া) মসজিদে নির্জনবাস শুরু করলেন। নির্জনবাসে মানব আত্মার বিস্ময় ও রহস্যগুলো উদঘাটন ও গবেষণা করবেন- এই তার সিদ্ধান্ত। দামেস্কের জামে মসজিদের পাশে লঙ্গরখানা ছিল আগন্তুক ও একান্ত-বাসকারীদের জন্যে। কিন্তু ইমাম গাযযালী সেখান থেকে কোনো সাহায্য গ্রহণ করতেন না। বাগদাদ ত্যাগের সময়ই প্রতিজ্ঞা করেছিলেন যে, কেবল নিজের পরিশ্রমের অর্থ দিয়েই জীবিকা নির্বাহ করবেন। কারো কাছ থেকে কোনো দান বা সাহায্য গ্রহণ করবেন না। সিদ্ধান্ত মোতাবেক যতদিন নির্জনবাস ও দূর দূরান্তে সফর করেছেন, ততদিন হয়ত কোরআন মজীদ নকল করার অর্থ দিয়ে জীবিকা নির্বাহ করেছেন, নতুবা কঠোর দৈহিক পরিশ্রমের আয় দিয়ে।