Отставной чекист Михаил Шрейдер говорил другое: «Надо иметь в виду, что Евдокимов был единственным работником ОГПУ, награжденным четырьмя орденами Красного Знамени, и, несмотря на ягодинские интриги, его авторитет как героя Гражданской войны был очень велик. Кроме того, его поддерживали Ворошилов, Микоян и ряд других членов ЦК... Замечу, однако, что в прошлом, когда Евдокимов был полпредом ОГПУ по Северному Кавказу (1923—1928 гг.), он проявил неразборчивость в кадровых вопросах, в результате чего под его началом оказались те, кто в последующие годы принимал участие в уничтожении лучших чекистских и партийных кадров. Я имею в виду Фриновского, ставшего первым заместителем Ежова и... ряд других»[77].
Реввоенсовет наградил Фриновского орденом Красного Знамени «за выдающуюся и самоотверженную работу на фронте борьбы с бандитизмом», а командование «всех вооруженных сил Украины и Крыма» вручило ему «за особо понесенные труды при ликвидации Врангелевского фронта и энергичное подавление контрреволюционных восстаний кобылицу под кличкой «Мурка», 6 лет, росту 2 арш., 3 вер., масти гнедой, задние ноги в чулках, на лбу звезда».
Куда бы ни назначали Евдокимова (Украина, Крым, Северный Кавказ, Средняя Азия, Москва), он брал с собой Фриновского. Молодой и перспективный чекист создавал службу погранохраны на Черноморском побережье, командовал войсками ОГПУ на Северном Кавказе, возглавлял Особые отделы Северо-Кавказского и Московского военных округов.
В декабре 1928 года его назначили командиром Отдельной дивизии особого назначения имени Дзержинского. Входившие в состав этого элитного чекистского воинского соединения оперативные полки дислоцировались в пределах Садового кольца и могли в любую минуту по приказу председателя ОГПУ Ягоды взять под свой контроль центр столицы или любое государственное учреждение.
В 1934 году покровителя Фриновского Евдокимова перевели на партийную работу, назначили первым секретарем Северо-Кавказского крайкома ВКП(б) и избрали на XVII съезде членом ЦК. Ашуг Сулейман Стальский сложил «Песнь о большевике Ефиме Евдокимове» (1936): «...Ты прост со всеми, как родной. Ты предан Сталину душой...»
Дивизию Фриновского спешно направили на Кавказ, охваченный в связи с насильственной коллективизацией сельского хозяйства массовым повстанческим движением. Воины-чекисты, так называли в те времена бойцов войск ОГПУ, действовали решительно и беспощадно. В одной из сводок управления погранохраны и войск ГПУ Закавказья отмечалось: «Агентурным путем установлено, что банда численностью 30—40 чел. скрывается в ущелье горы Огана-Даг... Для ее ликвидации привлечены семь конных взводов... Операция производилась под руководством командира ОДОН тов. Фриновского»[78]. Командира дзержинцев назначили председателем ГПУ Азербайджана и наградили вторым орденом Красного Знамени «за особо выдающиеся заслуги в борьбе с контрреволюцией» . При возвращении в Москву он в тридцать три года возглавил войска ОГПУ — отборную вооруженную армию «внутреннего предназначения». На петлицах его габардиновой гимнастерки появились в 1935 году знаки различия комкора (соответствовало нынешнему генерал-лейтенанту).