পূর্বে খোদাতা’lার এবাদতের জন্য কোন মসজিদ বা গৃহ নির্দিষ্ট ছিলো না। খোদার আদেশে হযরত ইব্রাহিম সর্বপ্রথম মসজিদের ভিত্তি স্থাপন করেন। এই উপাসনা গৃহ নির্মাণ শুধু তিনি ও তাঁহার পুত্র ইসমাইল দু’জনে করেছেন। হযরত ইসমাইল পাথর তুলে দিতেন ও হযরত ইব্রাহিম সেই পাথর দ্বারা দেওয়াল গাঁথতেন। এইরূপে পিতাপুত্রে কাবা ঘরের প্রাচীর নির্মাণ করেন। কিন্তু ইহার ছাদ নির্মাণ তিনি করেননি। কাবা নির্মাণ করতে বহুদিন সময় লেগেছিলো। এত বেশি দিন লেগেছিলো যে, হযরত ইব্রাহিম যে পাথরের ওপর দাঁড়িয়ে কাজ করতেন, তার ওপরে তাঁর পায়ের চিহ্ন আঁকা হয়ে গেছে। আজও পর্যন্ত পাথরখানি আছে। হাজিগণ কাবা প্রদক্ষিণের পূর্বে ঐ স্থানে নামাজ পড়ে থাকেন। এর নাম মকামে ইব্রাহিম।

কাবাগৃহ নির্মাণ শেষ হলে ইব্রাহিম প্রার্থনা করেছিলেনঃ হে পরোয়ারদিগার (পালনকর্তা) আমরা পিতাপুত্রে পরিশ্রম করে যে গৃহ নির্মাণ করলুম, হে প্রভু, তুমি তা গ্রহণ করো। হে সর্বশক্তিমান, আমরা ও আমাদের বংশধরেরা যেন তোমার জন্য আত্মোৎসর্গ করতে পারি। আমাদের বংশধরগণের জন্য তাদের মধ্য থেকেই তুমি এমন মহামাহনব পাঠাও যাঁরা তোমার বাণী সকলকে শোনাবেন। আল্লাহতা’লা তাঁর প্রার্থনা পূর্ণ করেছিলেন।

তিনি পুনরায় প্রার্থনা করেছিলেনঃ হে প্রভু এই স্থানে শাস্তি দাও ও সমস্ত বাধাবিঘ্ন দূর করো। হে দয়াময়, আমি তোমার এই পবিত্র গৃহের নিকটে আমাদের বংশধরগণের জন্য বাসস্থান মনোনীত করলুম। এ স্থান যেন শস্যশ্যামল হয়ে উঠে। শেষ বিচারেরদিনে তুমি আমাকে, আমার পিতামাতাকে, আমার বংশধরগণকে এবং তোমাকে যাঁরা বিশ্বাসী তাদের সবাইকে ক্ষমা করিও।