Уже летом 1936 года началась ликвидация многих специальных школ Коминтерна, а к 1938 году были официально закрыты практически все его учебные заведения. Сложилась обстановка, когда революция на определенном этапе в очередной раз «пожирала собственных детей».

В силу специфики своей работы большинство кадровых сотрудников Коминтерна, ИНО НКВД и РУ РККА были обвинены в принадлежности к той или иной иностранной разведке или участии в подготовке покушения на Сталина.

Иосиф Пятницкий был расстрелян в Москве как «немецкий шпион» в июле 1938 года. Совершенно невероятно, но дело Пятницкого, «закрытое» после его расстрела, неожиданно «открылось» в самом конце войны. Советская контрразведка допросила офицера гестапо, некоего Хайнца Паннвица, который в свое время расследовал дело о группах нелегальной разведки, объединенных общим наименованием «Красная капелла». Паннвиц сообщил, что до нападения Германии на СССР гестапо и иные германские спецслужбы многократно использовали фальшивые документы для дискредитации видных советских военачальников и политических деятелей. По его признанию, он лично принимал участие в подготовке таких документов, в частности, дискредитирующих Иосифа Пятницкого. Выбор на Пятницком остановился не случайно. Гитлеровцы прекрасно знали, что, убрав его чужими руками, они нанесут удар по всему Коминтерну и по многим нелегальным структурам этой организации. Увы, гитлеровцы не ошиблись, точно просчитав психологию тотальной подозрительности. Только с начала января по конец июля 1937 года, за короткие полгода, из аппарата ИККИ был уволен каждый шестой сотрудник разного ранга с формулировкой «разоблачен как враг народа и партии». А сколько было репрессировано и расстреляно, сколько погибло в лагерях! Только в 1956 году Иосиф Пятницкий посмертно был полностью реабилитирован.

В период массовых репрессий в относительной целостности сохранились лишь те секретные структуры ИККИ, которые вписывались в новую политическую концепцию Иосифа Сталина или же были идеально законспирированы Пятницким и другими руководителями разведки. Одновременно внутри перестроенного вождем партийного аппарата было создано несколько новых структур, например Особый сектор ЦК, который формально курировал личный секретарь Иосифа Сталина Александр Поскрёбышев. Часть функций была перераспределена между структурами Коминтерна и обновленными международными структурами ЦК партии.

С 1943 года, когда под давлением внешнеполитических обстоятельств Коминтерн формально был распущен, подавляющее количество сотрудников секретных служб и спецотделов ИККИ были приписаны к различным структурам партийного, административного аппарата, а также зачислены в штат МГБ, НКВД, Главразведупра армии.