Дело в том, что ОМС имел самостоятельную инфраструктуру для принятия весомых политических решений, и не последнюю роль здесь играло то, что в самом Отделе были собственные нелегальные разведывательные и секретные службы. Они создавались и работали абсолютно конспиративно, как под прикрытием международных организаций: Профинтерн, КИМ (Коммунистический интернационал молодежи), Крестинтерн (Крестьянский интернационал), Спортинтерн, Международный союз рабочих, Международный союз портовиков, так и под прикрытием «штатных» советских специальных служб: Иностранный отдел ОГПУ и Разведывательное управление РККА. Более того, в августе 1921 года было выработано и узаконено решение, благодаря которому Разведуправления армии и ВЧК могли обращаться за помощью к компартиям других стран только через специально выделенных ОМС представителей Коминтерна.
Наряду с советскими гражданами, работавшими на спецслужбы Коминтерна, к нелегальной оперативной и боевой работе привлекались коммунисты-иностранцы, выступавшие в роли не только источников разведывательной информации, но и нелегальных резидентов, агентов, разработчиков и исполнителей множества секретных операций. Агентура ОМС была внедрена в большинство ведущих стран мира. Во всех странах, игравших весомую роль в мировой политике, были созданы множественные нелегальные резидентуры ОМС, никак не соприкасавшиеся с резидентурами ВЧК и Разведупра РККА. Нелегальная деятельность Коминтерна была направлена на подрыв и разложение сил белогвардейской эмиграции, организацию специальной работы компартий, находящихся в нелегальных условиях, обучение национальных кадров в оперативной и военно-диверсионной областях, контроль за партийными и оперативными кадрами, глубокую политическую разведку и аналитическую работу.
Необходимо четко обозначить тот момент, что рождение секретных структур Коминтерна никоим образом не было связано с деятельностью разведорганов ВЧК – ГПУ или соответствующих структур РККА. Они создавались, развивались и видоизменялись абсолютно закрыто для подавляющего большинства руководителей других секретных служб и сами активно влияли на развитие и модернизацию ИНО ВЧК и Разведупр РККА.
ОМС ИККИ стал основным модератором нелегальной работы со всеми заграничными структурами. Эмиссары ОМСа выполняли двойную задачу: обеспечивали конспиративность в деятельности Коминтерна внутри РСФСР и способствовали внедрению в практику работы зарубежных компартий должных конспиративных методов, использовавшихся членами российских революционных партий еще в царское время, когда основные партийные структуры могли функционировать только нелегально в условиях подполья. Учить конспирации было важно, потому что большинство компартий не имели достаточного опыта нелегальной работы. Для сохранения секретности пункты связи (нелегальные резидентуры) были полностью отделены от аппаратов компартий и подчинялись непосредственно Международному отделу ИККИ в Москве. Еще в начале 1921 года из общего архива ИККИ были выделены все документы секретного характера, в том числе все документы Секретариата ИККИ, и для их хранения образовано секретное отделение архива.