Он поселился сначала в Муроме, затем был переведен во Псков, а затем назначен наместником Троице-Сергиевой Лавры. Став наместником, Пимен провел в Лавре крупные реставрационные работы в соборах. Неустанно заботился о благоустройстве Лавры, как внешнем, так и в духовной жизни иноков, стремясь возродить дух дореволюционного монашества, которое застал еще сам.
В 1957 году архимандрит Пимен был рукоположен во епископа. За пять лет архиерейского служения ему последовательно поручалось управление Луганской, Одесской, Смоленской, Костромской, Тульской, Тамбовской и Ленинградской епархиями. Он также был назначен Управляющим делами Московской Патриархии, а затем митрополитом Крутицким и Коломенским.
В 1970 году после кончины патриарха Алексия I митрополит Пимен стал местоблюстителем Московского патриаршего престола, а затем в 1971 году Поместный Собор Русской Православной Церкви избрал его патриархом. Интересно, что интронизация Святейшего Патриарха совершалась в день празднования Владимирской иконы Божией Матери. Вот как сам патриарх Пимен говорил об этом: «Владимирский образ Божией Матери был нашим семейным образом. Затем он стал моим образом на пути иноческого делания. И вот в день празднования этого образа совершилась и моя интронизация. Вижу в этом благое предзнаменование Богоматери особого покровительства доверенному мне служению».
В западной прессе патриарха Пимена много критиковали, считая, что он проводит церковную политику, угодную советской власти, называли его «ручным патриархом». На что Пимен сокрушенно вздыхал: «Походили бы они хоть пару дней в моих башмаках…» С тактом, умением и достоинством Пимен управлял Русской Церковью, всегда подчеркивая патриотические стороны ее деятельности. «Нельзя быть преданным сыном Церкви, не ощущая живой связи со своей Родиной, – часто повторял он. – Вся тысячелетняя история нашей Церкви подтверждает это. Мое сердце исполнено любви к тому великому народу, частью которого являются чада Святой Православной Русской Церкви. И все, что может быть сделано мной для блага этого народа, я совершу». Он заботился о благосостоянии епархий, приходов и монастырей Московского патриархата не только на территории Советского Союза, но и в различных районах мира: в Центральной и Западной Европе, на Афоне и Святой Земле, в Северной и Южной Америке. Посещая духовные учебные заведения, патриарх Пимен обращал внимание на все строны жизни студентов и учебного процесса, раскрывал сущность пастырского служения будущему духовенству, учил быть верными сынами Русской Православной Церкви.