Одним из первых его сооружений был Иерусалимский храм на горе Мориа. Прежде чем возвести новый храм, Ирод должен был разрушить старый, 500-летней давности, не вызвав возмущения народа. И Ирод нашел выход. Он собрал тысячу священнослужителей, обученных строительному делу. Они по камню разобрали древний храм и в то же время начали строить новый с помощью 18 тыс. обыкновенных каменщиков. Возведение этого храма началось в 20 году до нашей эры и длилось 83 года. Правда, главнейшие его части были построены за 8 лет. Но сам Ирод, естественно, так и не увидел этого сооружения в законченном виде. Величественность храма вошла в поговорку: ”Кто не видел сооружения Ирода, тот не видел красоты”.

Иосиф Флавий писал, что при восходе солнца ”храм блистал так ярко, отражая солнечные лучи, что никто не мог смотреть на него”. А на расстоянии он выглядел как ”сверкающая снегами горная вершина”. Террасы храма состояли из огромных известковых глыб до 20 метров длиной. Эти каменные блоки были тщательно подогнаны друг к другу, с тем чтобы их не сдвинуло даже землетрясение. Местами они возвышались сплошной стеной до 150 метров высотой. Стена заканчивалась двойной колоннадой, которая окружала храмовой внешний Двор для неевреев. От него поднимались лестницы к девяти золотым и серебряным воротам. Они вели сначала во Двор для женщин, а затем во Двор для израильтян, куда был разрешен вход только верующим. Над ними располагался Великий жертвенник, а еще выше поднимался 50-метровый фасад собственно храма. Все сооружения были украшены белым мрамором и золотом, и даже шипы на крыше храма, сделанные специально, чтобы голуби не садились на нее, были золотыми.

Ради исторической справедливости следует дополнить характеристику Ирода. Болезненно недоверчивый и мстительный, он не только кроваво расправлялся с неугодными подданными, но и казнил жену и трех сыновей, что побудило римского императора Августа сказать: ”Лучше быть свиньей Ирода, чем его сыном”.

Построенный Иродом храм просуществовал всего шесть лет. Сын императора Веспасиана и сам будущий император — Тит в 70 году вошел в Иерусалим и приказал разрушить город и святыни иудеев. Вплоть до арабских завоеваний робкие попытки иудеев и первых христиан возвести какое-либо сооружение на священной горе заканчивались неудачей.

После взятия Иерусалима халифом Омаром (634–644) скалу, на которой Авраам (общий предок арабов и евреев; у арабов — Ибрахим) готов был принести в жертву своего сына и на которой находился жертвенник храма, несколько дней очищали от мусора, скопившегося здесь за много веков. Причем в генеральной уборке принимал участие и сам халиф, что было отмечено мусульманскими летописцами. По приказу омейядского халифа Абд аль-Малика здесь, над скалой в 686–691 годах была построена купольная мечеть ”Куббат ас-Сахра” (”Купол скалы”). Возведенный над скалой купол имеет диаметр 20,5 метра и высоту 30 метров. Купольную часть окружает втрое более низкий восьмигранник стен.