Боевые кадры практически во всех специальных структурах готовили нелегальные специализированные школы под руководством признанных на то время специалистов. С 1924 года на курсах Коминтерна и в особых школах началось массовое обучение конспиративным и военным знаниям функционеров иностранных компартий. Развертывалась система собственных учебных заведений, включающая Коммунистический университет национальных меньшинств Запада (КУНМЗ), Коммунистический университет трудящихся Востока (КУТВ), Международную Ленинскую школу (МЛШ), Коммунистический университет трудящихся Китая (КУТК) и другие аналогичные образовательные учреждения. Среди выпускников КУНМЗ, например, был Леопольд Треппер, один из будущих нелегальных резидентов знаменитой «Красной капеллы».
Кроме названных было еще несколько глубоко законспирированных спецшкол, не имевших единого официального названия и постоянно менявших свою дислокацию. Обучение в таких школах проводилось по принципу временных трудовых коллективов, когда большинство преподавателей знали лишь о времени и месте проведения занятий. Преподаватели и слушатели разных групп между собой никак не контактировали и практически никогда не знали друг друга в лицо. Все нити концентрировались в закрытых партийных спецкомиссиях или секретных подотделах и секторах ОМС. Достаточно сказать, что более 90 % документов ОМС до настоящего времени не рассекречены, а часть ранее рассекреченных документов возвращена и возвращается под более строгие грифы секретности на долгие десятилетия.
В разное время ректорами специальных партийных школ были Борис Шумяцкий, Карл Радек, Юлиан Мархлевский, Борис Николаевич Пономарёв (будущий член ЦК КПСС и кандидат в члены Президиума ЦК).
В 1924–1926 годах секретными сотрудниками аппарата Коминтерна были такие люди, как Икка (Рихард) Зорге, Шандор Радо, Иосиф Григулевич, ставшие впоследствии выдающимися советскими разведчиками-нелегалами.
Надо отметить, что только в 1924 году в системе нелегальных партийных структур насчитывалось не менее 24 секретных комиссий, не считая закрытых партийных отделов и секторов.
В острейшей политической борьбе за власть высшие руководители ВКП(б) опирались на лично преданных им сторонников в партийно-государственном аппарате и ОГПУ. Стал ин, также имевший своих людей в указанных структурах, не ограничился только этими группами информационной и силовой поддержки. После избрания в 1922 году генеральным секретарем ЦК РКП(б) он приступил к формированию собственной секретной службы, тщательно скрытой внутри Секретариата ЦК. С начала 1920-х годов наиболее закрытой структурой стало Бюро ЦК (с 1926 года – Секретный отдел ЦК, с 1934 года – Особый сектор ЦК). Именно там работали особо доверенные сотрудники Сталина: И.П. Товстуха, А.Н. Поскрёбышев, Б.А. Двинский.