ইব্রাহীম (আঃ) কাবার প্রতিষ্ঠাতা ছিলেন না, পুনর্নির্মাতা ছিলেন, এই বিষয়ে বহু আলোচনা হইয়াছে। কেহ কেহ মনে করেন ইব্রাহীম (আঃ) কা’বা গৃহের নির্মাতা, অন্যেরা মনে করেন আদম সর্বপ্রথম কা’বা গৃহ নির্মাণ করিয়াছিলেন। কুরআন (৩ঃ৯৭) এবং সহীহ্ হাদীস এই অভিমতই ব্যক্ত করে যে, ইব্রাহীম (আঃ) এই স্থানে গৃহ উঠাইবার পূর্বেও এখানে গৃহাকারের একটি কাঠামো মওজুদ ছিল এবং গৃহটি ধ্বংসপ্রাপ্ত অবস্থায় কেবল চিহ্নস্বরূপ বিদ্যমান ছিল। ‘আল-কাওয়াইদ’ শব্দটি দ্বারা বুঝা যায় গৃহের ভিত্তি সেখানে পূর্বে হইতেই ছিল, যাহাকে ইব্রাহীম (আঃ) ও ইসমাঈল (আঃ) উঁচু করিয়া গৃহাকারে উঠাইলেন। তদুপরি, ইব্রাহীম (আঃ) যখন শিশু ইসমাঈল ও তাঁহার মাতাকে মক্কায় ছাড়িয়া বিদায় হইতেছিলেন, তখন তিনি দোয়া করিয়াছিলেন, ‘হে আমার প্রভু! আমি আমার বংশের একাংশকে তোমার পবিত্র গৃহের নিকটে অকৃষিযোগ্য উপত্যকায় ছাড়িয়া গেলাম’(১৪ঃ৩৮)। ইহা হইতে বুঝা যায়, পবিত্র গৃহটি ঐ সময়ে সেখানে কোন না কোন অবস্থায় ছিল, যাহা কিছুদিন পরে ইব্রাহীম (আঃ) সংস্কার করিয়াছিলেন। হাদীস এই কথা সমর্থন করে (বুখারী)। ঐতিহাসিক দলিলপত্রও এই অভিমতই প্রকাশ করে যে, কা’বা অতি প্রাচীন কালের গৃহ। স্বনামধন্য ঐতিহাসিকগণ, যাহাদের মধ্যে ইসলামের বৈরীগণও রহিয়াছেন, বলিয়াছেন যে, কা’বা অতি পুরাতন স্থান, যাহাকে স্মরণাতীত কাল হইতে পবিত্র মনে করা হইয়া আসা হইতেছে। “ডায়োডোরাস সিকুলাস, সিসিলি (খৃঃপূঃ ৬০) হেজায অঞ্চলের কথা উল্লেখ করিতে গিয়া বলিয়াছিলেন, স্থানটি অধিবাসীদের নিকট পবিত্র ও সম্মানীয়। তিনি আরো বলেন, সেখানে শক্ত পাথরের তৈরী একটি বেদী আছে, যাহা অতি প্রাচীন কালের। সেখানে চতুর্দিকের লোক আসিয়া সমবেত হইয়া থাকে (সঃ এম. ওল্ডফাদার, লণ্ডন, কর্তৃক অনূদিত, ১৯৩৫, বুক অধ্যায়, ৪২, খণ্ড ২য় পৃঃ ২১১-২১৩)। এই কথাগুলি মক্কার কাবা গৃহ ছাড়া অন্য কিছুর উপর প্রযোজ্য হইতে পারেনা। কেননা আরবদেশের এমন দ্বিতীয় একটি স্থানও নাই যাহা সারা আরব বাসীর সার্বজনীন তীর্থস্থান ছিল এবং সকলের ভক্তি-শ্রদ্ধার ও আকর্ষণের মিলন-কেন্দ্র ছিল। লোক-কাহিনীও ইহাই সাব্যস্ত করে যে, কা’বা স্মরণাতীত কাল হইতে সারা আরবের তীর্থস্থান রূপে পরিগণিত হইয়া আসিয়াছে।’ (ইংরেজী তফসীরের বৃহদাকার সংস্করণ দেখুন- পৃঃ ১৮০-১৮২)।