Sebagai pusat kota Makkah adalah Masjidil Al-Haram, dimana didalamnya terdapat Ka'bah sebagai arah kiblat umat Islam pada waktu sholat. Masjid ini mula-mula dibangun secara permanen oleh Sayyidina Umar bin Al Khattab pada tahun 638 M.
Dari masa-ke masa Masjidil Haram selalu mengalami pembaharuan dan perluasan diprakarsai oleh raja-raja Islam yang memberi perhatian terhadap Masjidil Haram.Pembangunan besar-besaran dalam sejarah diprakarsai oleh Raja Fahd bin Abdul Aziz yang bergelar : "Pelayan Dua Tanah Haram Makkah dan Madinah".
(Dikatakan Tanah Haram karena Tanah ini diharamkan bagi umat lain, selain umat Muslim).Saat ini luas Masjid Al Haram 328.000 meter persegi dan dapat menampung 730.000 jamaah dalam satu waktu sholat berjamaah.
Masjid ini melingkari Ka'bah, maka pintunya banyak. Ada 4 pintu utama dan 45 pintu biasa yang biasanya buka 24 jam sehari.
Keistimewaan Masjidil Haram banyak sekali, antara lain : Shalat di masjid ini lebih utama daripada shalat seratus ribu kali di masjid lain. Begitupun berdzikir, berdoa, bersedekah dan beramal baik lainnya.