В 1933 году Политбюро ЦК ВКП(б) издает секретный документ о перестройке аппарата Коминтерна. Орготдел реорганизуется в Отдел партстроительства, но за ним сохраняются функции подготовки кадров для нелегальной работы, вопросы техники и разработки методов нелегальной работы и инструктирования по вопросам специальной работы в армии.

Тем временем в органах государственной безопасности произошла очередная глобальная перестройка. Постановлением ЦИК СССР от 10 июля 1934 года был образован Народный комиссариат внутренних дел (НКВД) СССР, с включением в него аппаратов ОГПУ и НКВД РСФСР. Наркомом назначен Г. Г. Ягода. На базе ОГПУ создается Главное управление государственной безопасности (ГУГБ) НКВД СССР. Его куратором стал Я.С. Агранов.

В составе ГУГБ имелись следующие отделы: Секретно-политический (Г. А. Молчанов) – борьба с враждебными партиями и антисоветскими элементами; Особый (М.И. Гай) – контрразведка и политический сыск в Вооруженных силах; Оперативный (Оперод) (К. В. Паукер) – охрана руководителей, наружное наблюдение, обыски и аресты; Иностранный (А.Х. Артузов) – внешняя разведка; Экономический (Л.Г. Миронов) – борьба с диверсиями и вредительством в народном хозяйстве; Транспортный (В. А. Кишкин) – борьба с диверсиями и вредительством на транспорте; Учетно-статистический (Я.М. Генкин) – оперативный учет, статистика, архив; Специальный (Спецотдел) (Г. И. Бокий) – обеспечение режима секретности, шифровка, особые задачи.

После VII конгресса Коминтерна в 1935 году началась чистка специальных партийных структур. Сталин, сам возглавлявший в свое время ряд секретных комиссий и подотделов, спровоцировал внутренний конфликт в руководстве Коминтерна и, воспользовавшись им, перевел Пятницкого в Политико-административный отдел ЦК, а новый аппарат ИККИ составил из людей, завязанных лично на нем.

Но работа продолжалась. Во время гражданской войны в Испании коминтерновцы не только входили в состав республиканской регулярной армии Испании, но и участвовали в партизанских и диверсионных операциях. Большая часть военных советников из СССР, специалистов по «малой войне», в той или иной мере соприкасались с этой тематикой по линии Коминтерна и Профинтерна.

Под руководством Э. Волльвебера в Германии, Дании и Франции действовала коминтерновская диверсионная группа, срывавшая поставки немецкого вооружения и военной техники для армии Франко. Группа состояла из хорошо подготовленных специалистов, изготовлявших и устанавливавших мины на транспортных судах. Только во Франции было заминировано семь кораблей, впоследствии затонувших в открытом море. Каждое пятое судно, следовавшее из Германии в Испанию, было потоплено. Группа активно действовала в течение двух лет! После обнаружения минной лаборатории немецкими спецслужбами Волльвеберу с большинством членов группы удалось уйти в Норвегию и продолжить свою антифашистскую нелегальную деятельность.