বাগদাদে ফিরে এসে ইমাম গাযযালী মাদ্রাসা নিযামিয়ায় গেলেন না। বরং নেযামিয়া মাদ্রাসার সম্মুখস্থ আবু সাঈদ মুসাফিরখানায় অবস্থান নিলেন। দূরাগত মুসাফির ও তাদের বাহন উটগুলো এই পান্থশালায় বিশ্রাম নিত। ৩৪ বছর বয়সে রাজকীয় বেশে যখন প্রথমবার তিনি বাগদাদ প্রবেশ করেছিলেন, তখন তার গায়ের পোষাক ছিল অতি দামী। পোষাক পরিচ্ছদ ও বাহনের দাম ছিল তখনকার ২৫ দিনার স্বর্ণমুদ্রা। কিন্তু এবার বাগদাদ প্রবেশ করলেন জীর্ণ-শীর্ণ দরবেশী পোষাক গায়ে। এই পোষাক নিলাম দিলে এক দিনারেও কেউ খরিদ করবে না। বাগদাদের খলীফার সাথে গায্যালীর অতীতের ঘনিষ্ট পরিচয় থাকলেও তিনি তার সাক্ষাতে গেলেন না। মন্ত্রী আনুশিরওয়ান তাকে দেখার জন্য মুসাফিরখানায় আসলেন। কিন্তু ইমাম গাযযালী তার সাথে কথা বললেন কড়া ভাষায়। পরিষ্কার ভাষায় বললেন যে, দুনিয়া পূজারীদের সাথে উঠাবস করে জীবন অযথা নষ্ট করেছেন, তাই বাকী জীবন নির্জনতায় কাটাতে চান।

কিছুদিন বাগদাদ অবস্থানের পর ইমাম গায্যালী জন্মভূমি খোরাসানের উদ্দেশে রওনা হলেন। তুসে গিয়ে স্ত্রী ও সন্তানদের নিয়ে পুনরায় স্বাভাবিক জীবন যাপন শুরু করলেন। এ সময় তার নিয়মিত কাজের মধ্যে প্রধান কয়েকটি ছিল, পড়াশুনা, ইবাদত বন্দেগী, গ্রন্থ রচনা ও চিন্তা গবেষণা। এই নির্জনবাসেও তিনি জনসাধারণের খোঁজ-খবর রাখতেন। সেখান থেকেই জনসাধারণের সমস্যা ও রাষ্ট্রীয় বিষয়াদি সম্পর্কে মন্ত্রী ও আমীরদের কাছে চিঠি লিখতেন। তাদেরকে অন্যায় কার্যকলাপ সম্পর্কে সতর্ক করে দিতেন। অসহায় নির্যাতিত মানুষ ইমাম গায্যালীর কাছে আসতো এবং জুলুম নির্যাতনের বিরুদ্ধে তার সাহায্য নিত।

ঐ সময়টিতেই ইমাম গায্যালীর কানে ক্রুসেড যুদ্ধের খবর এসে পৌঁছে। মুসলমানদের হাত থেকে পবিত্র বায়তুল মুকাদ্দাস কেড়ে নেয়ার উদ্দেশে ইউরোপীয়রা ১১শ' খ্রিস্টাব্দ থেকে ১৩শ' খিস্টাব্দ পর্যন্ত যে যুদ্ধ পরিচালনা করে ইতিহাসে সে সব যুদ্ধই ক্রুসেড নামে খ্যাত। খ্রিস্টানদের পক্ষে যারা এ যুদ্ধে যোগদান করতো, তারা প্রত্যেকে ডান কাঁধের উপর লাল কাপড়ের ক্রস চিহ্ন বাঁধত। এ থেকেই এ সব যুদ্ধকে 'ক্রুসেড যুদ্ধ' বলা হতো।
এই যুদ্ধে ইউরোপীয়রা সিরিয়া ও বায়তুল মুকাদ্দাসের ওপর নৃশংস হামলা চালায় এবং রক্তগঙ্গা প্রবাহিত করে। স্বয়ং মসজিদুল আকসাতেই ৭০ হাজারের মতো লোক শহীদ হন। তাদের মধ্যে অনেকেই ছিলেন মুসলিম মনীষী ও সূফী। সাধক। মসজিদুল আকসার পবিত্র স্থানের বরকত পাওয়ার উদ্দেশ্যে তারা সেখানে অবস্থান করছিলেন। ক্রুসেড যুদ্ধ ও হত্যাযজ্ঞের সংবাদ শুনে ইমাম গায্যালী খুবই মর্মাহত হন। এ সময় তিনি তুহফাতুল মুলুক নামে একটি বই লিখেন। বইতে তিনি আগ্রাসীদের বিরুদ্ধে প্রতিরোধ ও জিহাদের প্রয়োজনীয়তার কথা শাসক ও আমীরদের স্মরণ করিয়ে দেন। পারষ্পরিক মতবিরোধ ভুলে গিয়ে দুশমনের বিরুদ্ধে ঐক্যবদ্ধ হওয়ার জন্যে তাদের প্রতি আহবান জানান। রাজা বাদশাহ, মন্ত্রী ও দরবারী লোকদের ভোগ ও বিলাসিতাপূর্ণ জীবনের প্রতি চরম কটাক্ষ করেন। তাদের ক্ষমতাপূজা ও দায়িত্বহীনতার তীব্র সমালোচনা করেন।

ইসলামী জাহানের প্রাতঃস্মরণীয় ইমাম আবু হামেদ মুহাম্মদ গায্যালীর তিরোধানের সময়টি ছিল ৫০৫ হিজরীর ১৪ই জমাদিউস্সানী মোতাবেক ১১১১ খ্রিস্টাব্দের ১৯শে ডিসেম্বর সোমবার প্রত্যুষে।
তৃসে বাড়ীর কাছে নির্মিত একটি খানেকায় অবস্থান ও অধ্যাপনায় কাটাচ্ছিলেন জীবনের শেষ মুহুর্তগুলো। এরিমধ্যে পরম প্রিয়তম আল্লাহর ডাকে সাড়া দেন তুস নগরের স্বীয় বাসভবনে। ভাই ইমাম আহমদ গায্যালী ইমাম মুহাম্মদের মৃত্যুকালীন অবস্থা সম্বন্ধে লিখেছেন: "সোমবার দিন অতি প্রত্যুষে তিনি নিদ্রা হতে জাগ্রত হয়ে স্বভাব মতো ওযু করার পর পূর্বে প্রস্তুত করা কাফনের কাপড়টি পরে নিলেন এবং চোখে মুখে স্পর্শ করে বললেন: 'প্রভুর আদেশ শিরোধার্য।'- এই বাক্যটি মুখ থেকে বের হওয়ার সাথে সাথে দুই পা প্রসারিত করে দিলেন এবং সে মুহূর্তেই প্রেমময়ের কাছে প্রাণ উৎসর্গ করলেন।"