এদিকে সাম্প্রদায়িক সম্প্রীতি পুনঃপ্রতিষ্ঠার জন্যে মওলানা মুহাম্মদ আলী, মিঃ মুহাম্মদ আলী জিন্নাহ, মওলানা আবুল কালাম আজাদ, হাকিম আজমল খান, মিসেস সরোজিনী নাইডো, রাজা গোপালাচারিয়া, ডাঃ আনসারী প্রমুখ নেতৃবৃন্দ আপ্রাণ চেষ্টা করছিলেন, কিন্তু দাংগা প্রতিরোধের কোন উপায় খুঁজে পাচ্ছিলেন না। অবশেষে ১৯২৮ সালে কোলকাতায় অনুষ্ঠিত কংগ্রেস অধিবেশনের প্রাক্কালে এক সর্বদলীয় সম্মেলন আহূত হয়। ভারতের নেতৃস্থানীয় হিন্দু, মুসলমান ও শিখ সম্মেলনে যোগদান করেন। কংগ্রেসের বিদায়ী সভাপতি ডাঃ মুখতার আহমদ আনসারী সম্মেলনে সভাপতিত্ব করেন। কিন্তু উগ্রপন্থী হিন্দুদের হঠকারিতায় সম্মেলন ব্যর্থতায় পর্যবসিত হয়।
সাম্প্রদায়িক সম্প্রীতি প্রতিষ্ঠার উদ্দেশ্যে মুসলমানরা তাদের সংখ্যাগরিষ্ঠ প্রদেশগুলির আইন পরিষদে একক সংখ্যাগরিষ্ঠ থেকে তাদের প্রাপ্য আসন সংখ্যার কিছু সংখ্যক আসন অমুসলমানদেরকে ছেড়ে দিতে আগ্রহী হয় এবং এর বিনিময়ে কেন্দ্রীয় আইন সভায় তাদের ন্যায্য প্রাপ্য আসন অপেক্ষা শতকরা তিনটি আসন অতিরিক্ত দাবী করে। এ ছিল অধিক সংখ্যক আসন ছেড়ে দিয়ে কেন্দ্রে সামান্য কিছু লাভ করার দাবী। কিন্তু সম্মেলনের হিন্দু এবং শিখ নেতৃবৃন্দের অধিকাংশই এ প্রস্তাবের তীব্র বিরোধিতা করে এবং অত্যন্ত দৃঢ়তার সাথে অসম্মতি জ্ঞাপন করেন। মুসলমানদের পক্ষ থেকে বৃহত্তর উদারতার বিনিময়ে সামান্য উদারতা প্রদর্শনের জন্যে মিঃ মুহাম্মদ আলী জিন্নাহর পুনঃ পুনঃ আবেদন ব্যর্থ হয়। ফলে সর্বদলীয় সম্মেলন কোন সিদ্ধান্ত ব্যতিরেকেই চরম ব্যর্থতার সাথে শেষ হয়।

মিঃ মুহাম্মদ আলী জিন্নাহ প্রথমে কংগ্রেসের একজন অতি উৎসাহী ও একনিষ্ঠ সদস্য ছিলেন এবং তিনি ছিলেন হিন্দু মুসলিম মিলনের দূত। কিন্তু তাঁর দীর্ঘদিনের মিলন প্রচেষ্টা ব্যর্থ হয়। তিনি কংগ্রেসের হিন্দু সদস্যদের আচরণ এবং মুসলমানদের প্রতি তাদের বৈরী নীতিতে অত্যন্ত ব্যথিত হন। অতঃপর ১৯২১ সালের ডিসেম্বরে কংগ্রেসের নাগপুর অধিবেশনে কংগ্রেসের সাথে তাঁর দীর্ঘদিনের সম্পর্ক ছিন্ন করেন। কিন্তু ১৯২৮ সালে অনুষ্ঠিত সর্বদলীয় সম্মেলনের পূর্ব পর্যন্ত প্রকাশ্যে কংগ্রেসের বিরোধিতা থেকে বিরত থাকেন। এ সম্মেলনে হিন্দু ও শিখদের বিদ্বেষাত্মক মনোভাব লক্ষ্য করে তিনি অত্যন্ত মর্মাহত হন। তার পর পরই দিল্লীতে অনুষ্ঠিত মুসলিম কনফারেন্সে তিনি তাঁর চৌদ্দ দফা প্রস্তাব পেশ করেন। এ চৌদ্দ দফার বিশেষ উল্লেখযোগ্য বিষয় ছিল বোম্বাই থেকে সিন্ধুকে পৃথক করে সিন্ধুপ্রদেশ গঠন, বেলুচিস্তান ও সীমান্ত প্রদেশে শাসন সংস্কার প্রবর্তন, মুসলিম সংখ্যাগরিষ্ঠ প্রদেশগুলির আইন পরিষদে জনসংখ্যার অনুপাতে আসন বন্টন এবং দেশের স্বায়ত্তশাসিত প্রতিষ্ঠানগুলিতে প্রতিনিধি নির্বাচনে মুসলমানদের জন্যে পৃথক নির্বাচন প্রবর্তন। তখন থেকে মিঃ জিন্নাহ্ (পরবর্তীকালে কায়েদে আজম) কংগ্রেস বিরোধিতায় হ'য়ে পড়েন সোচ্চার। পরবর্তীকালে ব্রিটিশ প্রধানমন্ত্রী মিঃ র‍্যামজে ম্যাকডোনাল্ডের সাম্প্রদায়িক রোয়েদাদে (Communal Award) 'চৌদ্দ দফার' অধিকাংশ দফা স্বীকৃতি লাভ করে। এ চৌদ্দ দফার বাইরে হিন্দু সংখ্যাগরিষ্ঠ উড়িষ্যা এবং আসাম দুটি পৃথক প্রদেশের মর্যাদা লাভ করে।

ভারত শাসন সম্পর্কে ভবিষ্যৎ নীতি নির্ধারণের উদ্দেশ্যে অথবা ভারতের স্বাধীনতা আন্দোলন দাবিয়ে রাখার উদ্দেশ্যে ব্রিটিশ সরকার ১৯২৮ সালে ভারতে একটি রয়েল কমিশন প্রেরণ করেন। এ কমিশনের সভাপতি ছিলেন স্যার জন সাইমন। কমিশনে কোন ভারতীয় সদস্য নেয়া হয়নি বলে কংগ্রেস, মুসলিম লীগ এবং অন্যান্য রাজনৈতিক দলগুলি এ কমিশন বর্জনের সিদ্ধান্ত করে। কমিশনের সদস্যগণ বোম্বাইয়ে অবতরণ করলে তাঁদেরকে কৃষ্ণ পতাকা দেখানো হয়। যাহোক, সাইমন কমিশন লন্ডনে একটি গোলটেবিল বৈঠকের সুপারিশ পেশ করে।

সাইমন কমিশনের সুপারিশ অনুযায়ী ১৯৩০ সালে লন্ডনে গোলটেবিল বৈঠক আহুত হয়। কংগ্রেস এ বৈঠকে যোগদান করা থেকে বিরত থাকে। আমন্ত্রণ গ্রহণ করেন মওলানা মুহাম্মদ আলী, মিঃ মুহাম্মদ আলী জিন্নাহ, মিঃ এ, কে, ফজলুল হক, স্যার মুহাম্মদ ইসমাইল, আগা খান, স্যার আবদুল কাইয়ূম, স্যার আবদুল হালিম গজনবী, স্যার আকবর হায়দারী, স্যার মুহাম্মদ শফি, স্যার শাহ নওয়াজ ভুট্টু প্রমুখ নেতৃবৃন্দ। মুসলিম সদস্যগণ লন্ডনে পৌঁছে মহামান্য আগা খানকে তাঁদের নেতা নির্বাচিত করেন।
প্রায় দু'মাসকাল বৈঠক স্থায়ী হয়। মওলানা মুহাম্মদ আলী ভগ্নস্বাস্থ্য নিয়ে বৈঠকে যোগদান করেন এবং অসুস্থ অবস্থায় আসনে উপবেশন করেই তাঁর নব্বই মিনিটব্যাপী দীর্ঘতম ভাষণ দান করেন। এই অগ্নিপুরুষের জ্বালাময়ী ভাষণ যেমন একদিক দিয়ে ছিল একটি উচ্চাংগের সাহিত্য, তেমনি অপর দিক দিয়ে ভারতের স্বাধীনতা আন্দোলনের ইতিহাসে শ্রেষ্ঠতম অবদান। তিনি সম্রাট পঞ্চম জর্জের সভাপতিত্বে অনুষ্ঠিত বৈঠকে যে ভাষায় ব্রিটিশ সরকারের তীব্র সমালোচনা করেন, তা শুধুমাত্র তাঁর মতো একজন নির্ভীক মুজাহিদের পক্ষেই ছিল সম্ভব। ভারতের স্বাধীনতা তাঁর কাছে ছিল জীবনের সর্বাপেক্ষা প্রিয়তম বস্তু। তিনি তাঁর বক্তৃতার এক পর্যায়ে অতি আবেগময় কণ্ঠে বলেন, "আমি ভারতের স্বাধীনতার সারাংশ নিয়ে স্বদেশে ফিরে যেতে চাই। যদি তোমরা স্বাধীনতা না দাও, তাহলে তার পরিবর্তে এখানে আমার জন্যে রচনা করো সমাধি। কারণ একটি গোলামীর দেশে ফিরে যাওয়ার চেয়ে একটি স্বাধীন দেশে মৃত্যুবরণকে আমি শ্রেয়ঃ মনে করি।”
তাঁর এ আন্তরিকতাপূর্ণ উক্তি ছিল একটি ভবিষ্যদ্বাণী যা অক্ষরে অক্ষরে সত্যে পরিণত হতে মোটেই বিলম্ব হলো না। তাঁকে আর তাঁর প্রিয় জন্মভূমিতে ফিরে আসতে হয়নি। ভারতের স্বাধীনতা হয়নি, হয়েছে তাঁর জীবনের অবসান লন্ডনের বুকেই ক'দিন পরে।
মওলানা মুহাম্মদ আলী বারবার কারাবরণ করে এবং দীর্ঘদিন কারাগারে অতিবাহিত করে একেবারে ভগ্নস্বাস্থ্য হয়ে পড়েছিলেন। তাঁর অকস্মাৎ মৃত্যু ভারতের কোটি কোটি নরনারীকে শোকসাগরে নিমজ্জিত করে। ১৯৩০ সালে ৪ঠা জানুয়ারী তিনি মৃত্যুবরণ করেন এবং এ নিদারুণ সংবাদ তড়িৎগতিতে সারা মুসলিম বিশ্বে ছড়িয়ে পড়ে। পৃথিবীর সুধী সমাজ মর্মাহত হয়ে ভারতের এ সিংহপুরুষের প্রতি শেষ শ্রদ্ধা নিবেদন করে তারবার্তা প্রেরণ করতে থাকেন।
মওলানা মুহাম্মদ আলীর অন্তিম ইচ্ছানুযায়ী তাঁর মৃতদেহকে পরাধীন ভারত ভূমিতে না এনে বায়তুল মাক্‌দেসে অবস্থিত খলিফা ওমরের মসজিদ প্রাংগণে সমাধিস্থ করা হয়।
দেশপ্রেমিক, কবি ও সাহিত্যক, সাংবাদিক ও বাগ্মী মওলানা মুহাম্মদ আলী জওহরের মৃত্যুতে ভারতবর্ষের রাজনীতিক্ষেত্রে যে শূন্যতার সৃষ্টি হয়, তা আর পূরণ হয়নি। তবে লন্ডন যাত্রাকালে তাঁকে যখন স্ট্রেচারের সাহায্যে বোম্বাই বন্দরে জাহাজে তোলা হয়, তখন অনেকেই অশ্রুরুদ্ধ কণ্ঠে বলেছিলেন-"ভারতে আপনার স্থলাভিষিক্ত কে হবে।” তখন তিনি বলেছিলেন "তোমাদের জন্যে মুহাম্মদ আলী জিন্নাহ রইলো।” তাঁর এ অন্তিম ইচ্ছাও পূরণ হয়েছিল। পরবর্তীকালে মুসলমানদের আশা-আকাংখার বাস্তবায়ন হয়েছিল মুহাম্মদ আলী জিন্নাহর অক্লান্ত প্রচেষ্টায়।