Según la tradición islámica, la Kaaba fue construida por primera vez por Adán y Eva después de que fueron expulsados del Jardín del Edén. Luego fue reconstruida por el profeta Abraham y su hijo Ismail. Se cree que Abraham construyó los cimientos de la Kaaba e Ismail trajo la Piedra Negra sagrada, que se encuentra en la esquina oriental del edificio. Se cree que la Piedra Negra se originó en el cielo y se dice que se volvió negra debido a los pecados de la humanidad.
La Kaaba se considera el lugar más sagrado del Islam y es el punto focal de la peregrinación anual Hajj, durante la cual millones de musulmanes de todo el mundo visitan La Meca. Durante el Hajj, los peregrinos realizan un ritual conocido como tawaf, que consiste en circunvalar la Kaaba siete veces. La Kaaba también se menciona en el Corán como la "Casa de Dios" y se considera la primera casa de culto construida en la tierra.