আল্লামা ফাসী তাঁর 'শিফাউল গারামে' হাফেজ নাজমুদ্দিন উমর বিন ফাহাদ কোরাশী তাঁর ইতিহাসগ্রন্থে, ইবনে জারীর, ইবনুল আসীর এবং ইয়াকুত হামাওয়ী তাঁর 'নগর অভিধানে' ২৬ হিজরীতে হযরত উসমান (রা) কর্তৃক মসজিদে হারামের সম্প্রসারণের কথা উল্লেখ করেছেন। তাঁর আমলে মক্কার জনসংখ্যা বৃদ্ধি পাওয়ায় মসজিদে হারামে নামাযীদের স্থান সংকীর্ণ হয়ে পড়ে। তখন হযরত উসমান (রা) পার্শ্ববর্তী ঘরগুলো ক্রয় করে তা ভেঙ্গে ফেলেন এবং সেই স্থানকে মসজিদে হারামের অন্তর্ভুক্ত করেন। কিন্তু তিনি কি পরিমাণ ঘর মসজিদে হারামের অন্তর্ভুক্ত করেন এর কোন সংখ্যা কোথাও উল্লেখ নেই। ঘরের মালিকরা তাঁর কাছ থেকেও মূল্য নিতে অস্বীকার করে। তখন তিনি বলেন, 'আমার ধৈর্য্য শক্তির কারণেই তোমরা এই দুঃসাহস দেখাচ্ছ নচেৎ হযরত উমরের সময় তো কেউ কোন উচ্চ-বাচ্চ করনি।' তারপর তিনি তাদেরকে আটক করার নির্দেশ দেন। কিন্তু পরে আবদুল্লাহ বিন খালেদ বিন উসাইদের সুফারিশক্রমে তাদেরকে মুক্তি দেয়া হয়। হযরত উসমান (রা) সর্বপ্রথম মসজিদে হারামে ছায়াদার ছাতা নির্মাণ করেন। কেননা, তখন এতে কোন ছাদ কিংবা ছায়াদার অন্য কিছু ছিল না। (৩)

৬৫ হিজরীতে (৬৮৪ খৃঃ) হযরত আবদুল্লাহ বিন যোবায়ের নিজ খেলাফতের সময় প্রথমে কাবা শরীফ নির্মাণ করেন। তারপর তিনি মসজিদে হারামও নির্মাণ করেন। তিনি পূর্ব, দক্ষিণ ও পশ্চিম দিকে মসজিদে হারাম সম্প্রসারণ করেন এবং 'আখবারে মক্কার' লেখক আবুল ওয়ালীদের দাদার কয়েকটি ঘর ১৩ হাজারেরও বেশী দীনার দিয়ে ক্রয় করে তা মসজিদে হারামের অন্তর্ভুক্ত করেন। তিনি মসজিদে হারামের ছাদ নির্মাণ করেন। তবে তিনি সম্পূর্ণ মসজিদে হারামের ছাদ করেছেন, না আংশিক ছাদ করেছেন তা জানা যায় না।

উমরী 'মাসালেকুল আবসার' বইতে লিখেছেন, আবদুল্লাহ বিন যোবায়ের হারাম শরীফে মার্বেল পাথর দিয়ে স্তম্ভ তৈরি করেছিলেন। উমরী খুবই নির্ভরযোগ্য ঐতিহাসিক। আযরাকী উল্লেখ করেছেন যে, ইবনে যোবায়েরের সময় মসজিদে হারামের আয়তন ছিল ৯ জারীব। মাওয়ারদী, নবওয়ী এবং কালঈ বলেন, এক জারীব হচ্ছে ১০ বর্গ কাসবার সমান এবং এক কাসবা হচ্ছে ৬ গজ। এতে করে এক জারীব হচ্ছে ৩,৬০০ বর্গহাত। ফলে, ইবনে যোবায়ের নির্মিত মসজিদে হারামের আয়তন দাঁড়ায় ৩২,৪০০ বর্গহাত। এই আয়তন বর্তমান মসজিদে হারামের আয়তনের এক চতুর্থাংশ কিংবা সামান্য কিছু বেশী। তবে মসজিদে হারাম ঠিক কোন সালে তিনি নির্মাণ করেন, এ ব্যাপারে ঐতিহাসিকরা কোন কিছু উল্লেখ করেননি। ধারণা করা হয় যে, ৬৪ হিজরীতে কাবা শরীফ নির্মাণের পরের বছরই ৬৫ হিজরীতে সম্ভবতঃ তিনি মসজিদে হারাম নির্মাণ করেন। কেননা, কাবা ও মসজিদে হারাম মেনজানিক দ্বারা একই সময়ে ক্ষতিগ্রস্ত হয়েছিল。

আবদুল মালেক বিন মারওয়ান, ৭৫ হিজরীতে, মসজিদে হারামের দেয়াল উঁচু করেন। টিন দ্বারা এর ছাদ দেন এবং প্রত্যেক খুঁটির মাথায় ৫০ মেসকাল সোনা লাগান। মজবুত ও সুন্দর কাঠ ছাদে লাগান। এ ছাড়া তিনি ইবনে যোবায়েরের সম্প্রসারণের বাইরে আর কিছু করেননি।

উমাইয়া খলীফা আবদুল মালেক বিন মারওয়ানের সময় মক্কার গভর্নর খালেদ বিন আবদুল্লাহ আল-কাসরী একই ইমামের পেছনে একই জামাতে কাবা শরীফের চতুর্দিকে ফরজ ও তারাবীহর নামায পড়ার পদ্ধতি চালু করেন। ইমাম নবওয়ী তাঁর হজ্জের উপর লেখা 'আল-ঈদাহ' গ্রন্থে এই কথা উল্লেখ করেন। কেননা, খালেদ লক্ষ্য করলেন যে, মাকামে ইবরাহীমের পেছনে শুধু একদিকে অর্থাৎ পূর্বদিকে নামাযীদের সংকুলান সম্ভবপর হচ্ছিল না। আতা বিন আবি রেবাহ এবং আমর বিন দীনারের মত অন্যান্য বড় বড় আলেমরা এটাকে অস্বীকার করেননি। এর আগে কাবার অবশিষ্ট তিন অংশে নামাযের জামাত অনুষ্ঠিত হত না, সেই দিকগুলো জামাতের সময় মুসল্লীশূন্য থাকত। খালেদ কাবার চতুর্দিকে নামাযের জামাতের কাতারবন্দীর যে ব্যবস্থা করলেন তা অত্যন্ত সুন্দর ব্যবস্থা। তাবেঈদের মধ্যে বড় বড় আলেমরা সবাই এটাকে সমর্থন করেছেন। যদি এই কাজ ইসলাম বিরোধী হত, তাহলে উলামায়ে কেরাম অবশ্যই এর বিরোধিতা করতেন। সুয়ূতী এক বর্ণনায় বলেছেন, খালেদই প্রথম এই পদ্ধতি চালু করেন। কিন্তু সুয়ূতীর অপর এক বর্ণনায় হাজ্জাজ বিন ইউসুফকে এই পদ্ধতির প্রবর্তক বলা হয়েছে। প্রথম মতটিই বেশী বিশুদ্ধ。

হিজরী ৯১ সালে উমাইয়া খলীফা ওয়ালিদ বিন আবদুল মালেক বিন মারওয়ান মসজিদে হারামের সম্প্রসারণের নির্দেশ দেন এবং নিজের বাপের সংস্কারকর্মকে ভেঙ্গে ফেলেন। তিনি মসজিদে হারামের মজবুত ইমারত নির্মাণ করেন এবং মিসর ও সিরিয়া থেকে মার্বেল পাথরের নির্মিত খুঁটি আনেন। কারুকার্য খচিত কাঠ দ্বারা তিনি মসজিদে হারামের ছাদ নির্মাণ করেন। প্রত্যেক স্তম্ভের মাথায় সোনার চওড়া পাত লাগান, মসজিদে হারামের ভেতর মার্বেল পাথর লাগান, সৌন্দর্যের জন্য মাঝে মাঝে উঁচু দেয়াল নির্মাণ করেন এবং দেয়ালের মধ্যে নকশা অংকন করেন। উঁচু দেয়ালের মাধ্যমে কিছুটা ছায়ার ব্যবস্থা হত, এ ছাড়াও ছায়াদানের জন্য উঁচু ছাতা নির্মাণ করেন। তিনি মসজিদে হারামের শুধু পূর্বদিকেই সম্প্রসারণ করেছিলেন。