После смерти Слуцкого исполняющим обязанности начальника 7-го отдела ГУГБ НКВД был назначен С. М. Шпигель-глаз. В марте 1938 года во главе 5-го отдела (ИНО) I Управления НКВД (после очередной реорганизации) был поставлен З. И. Пассов, а Шпигельглаза назначили его заместителем. А уже 28 октября 1938 года Пассов был арестован. Второго ноября арестовали и Шпигельглаза.
Неизбежным результатом «партийной войны» стало резкое ухудшение деятельности нелегальных резидентур. Многие агентурные сети так и не были восстановлены. Показательно, что в 1938 году из разведки НКВД в адрес руководства страны в течение 127 дней (уникальный случай в истории не только отечественной, но и мировой разведки!) вообще не поступало никакой информации.
В начале ноября 1938 года к временному исполнению должности начальника 5-го отдела ГУГБ НКВД приступил П. А. Судоплатов.
«За три недели своего пребывания в качестве исполняющего обязанности начальника отдела, — вспоминал он, — я смог узнать структуру и организацию проведения разведывательных операций за рубежом. В рамках НКВД существовали два подразделения, занимавшиеся разведкой за рубежом. Это Иностранный отдел, которым руководили сначала Трилиссер, потом Артузов, Слуцкий и Пассов. Задача отдела — собирать для Центра разведданные, добытые как по легальным (через наших сотрудников, имевших дипломатическое прикрытие или работавших в торговых представительствах за рубежом), так и по нелегальным каналам. Особо важными были сведения о деятельности правительств и частных корпораций. тайно финансирующих подрывную деятельность русских эмигрантов и белогвардейских офицеров в странах Европы и в Китае, направленную против Советского Союза. Иностранный отдел был разбит на отделения по географическому принципу, а также включал подразделения, занимавшиеся сбором научно-технических и экономических разведданных. Эти отделения обобщали материалы, поступавшие от наших резидентур за границей — как легальных, так и нелегальных. Приоритет нелегальных каналов был вполне естествен, поскольку за рубежом тогда было не так много советских дипломатических и торговых миссий. Вот почему нелегальные каналы для получения интересовавших нас разведданных были столь важны.
В то же время существовала и другая разведывательная служба — Особая группа при наркоме внутренних дел, непосредственно находившаяся в его подчинении и глубоко законспирированная. В ее задачу входило создание резервной сети нелегалов для проведения диверсионных операций в тылах противника в Западной Европе, на Ближнем Востоке, в Китае и США в случае войны. Учитывая характер работы, Особая группа не имела своих сотрудников в дипломатических и торговых миссиях за рубежом. Ее аппарат состоял из двадцати оперработников, отвечавших за координирование деятельности закордонной агентуры. Все остальные сотрудники работали за рубежом в качестве нелегалов. В то время, о котором я веду речь, число таких нелегалов составляло около шестидесяти человек. Вскоре мне стало ясно, что руководство НКВД могло по своему выбору использовать силы и средства Иностранного отдела и Особой группы для проведения особо важных операций, в том числе диверсий и ликвидации противников СССР за рубежом.