К концу 3 в. империя слабеет, и Рим постепенно теряет свое значение. После основания Константинополя он некоторое время продолжает оставаться столицей Западной Римской империи, а затем столицей становится Равенна. Набеги гуннов и вандалов в 5 в. вызывают большие разрушения, а после последнего набега вандалов в 476 г. империя прекращает существование и Рим приходит в запустение.

В 6 в. папы основывают Римское герцогство и защищают его от притязаний Византии и набегов лангобардов. Они нашли себе покровителей в лице франкского короля Пипина Короткого и его сына Карла Великого. Последний в 800 г. был коронован как император, и его империя стала надежной опорой папства. Однако в середине 9 в. Каролингская империя распалась, и престиж папства сильно упал. Власть в Риме перешла к городской коммуне, возглавляемой сенатором.

Роль папства вновь возросла, когда германский король Оттон I решил возродить империю Карла Великого и для этого ему потребовался папа, который мог бы короновать его новым императором. Папы стремились поставить свою духовную власть выше светской власти императоров, и это вызвало затяжной конфликт между папами и германскими императорами, известный как борьба между гвельфами и гибеллинами.

С 1155 г. папы восстановили власть над Римом, коммуна была распущена, а сенатор стал подчиняться папе. В 1303 г. избранный сенатором Карл Анжуйский основал университет. Во время «авиньонского пленения» папа вновь утратил власть над Римом, город стал приходить в упадок, управление перешло к трибунам, самый известный среди которых, Кола ди Риенци, был убит в 1347 году.

После возвращения папы в Рим и окончания Великой схизмы, когда существовали одновременно два папы, в Риме и Авиньоне, в начале 15 в. Рим начинает возрождаться. Папы стремятся сделать город центром духовной и политической жизни Европы, основывается Ватиканская библиотека, строятся новые дворцы, церкви и соборы, при папском дворе работают замечательные художники, скульпторы и архитекторы.

Во время Итальянских войн французские войска Карла VIII занимают Рим, однако вскоре вынуждены отступить. В 1527 г. город захватывают испанские войска Карла V, папа попадает в плен и проводит семь месяцев в заточении в замке св. Ангела.

В 17 в. богатые римские семьи, из среды которых выбираются папы, застраивают город великолепными палаццо в стиле барокко. В 1797 г. Рим занят войсками Наполеона, папа Пий VI попадает в плен и умирает в заточении. Новый папа, Пий VII, стремясь наладить отношения с Наполеоном, коронует его в 1804 г. в Миланском соборе как императора, однако в 1809 г. Наполеон присоединяет папские владения к Итальянскому королевству, а папа отправляется в ссылку, из которой возвращается только после падения Наполеона в 1814 г.