По мнению алимов Ислама, мечеть Аль Акса покрывает собой всю территорию Харам Аш Шариф- то есть священным, запретным для любого греха местом Иерусалима.

На святость этих мест особо указывал и Пророк Мухаммед. В достоверных хадисах переданных Аль Бухари и Ибн Маджем со слов Абу Зера сообщается о изречении Пророка:

"Я спросил Посланника Аллаха о том, какая первая мечеть была заложена на земле.Он сказал "Запретная Мечеть". Я спросил: " Какая была после нее?". Он изрек "Месджиди Аль Акса". Я спросил: "Сколько был период между ними?". Он ответил:"Сорок лет. Потом вся земля для тебя мечеть. И где тебя застанет время намаза, совершай намаз там." (Buhari, Kitabu Ehadisi'l-Enbiya, 60/40; İbnu Mace, Kitabu'l-Mesacid ve'l-Cemaat, 4/7)

Слово Акса означает "самая далекая, удаленная". Мечеть Аль Акса называется так из-за своей удаленности от Мекки. То есть самая далекая мечеть.

После завоевания Иерусалима халиф Омар повелел построить здесь мечеть. Мечеть, которая была названа Аль Акса, представляет собой четырехугольное строение, одна сторона которого опирается на западную стену некогда существовавшего храма, построенного иудейским царем Иродом.

Позднее во времена династии Омейадов халиф Абдул Малик бен Мерван в 710-ом году расширил строение мечети и ее нынешних вид сохранился именно с тех времен.