Считается, что по заданию сибирских большевиков Берман добровольно поступил на военную службу. В мае 1917 года он стал вольноопределяющимся 15-го Сибирского запасного стрелкового полка — эта существовавшая в русской армии категория военнослужащих из нижних чинов с высшим или средним образованием являлась одним из источников пополнения офицерских кадров.
Ускоренное обучение военному делу в Иркутской школе прапорщиков было недолгим — всего четыре месяца. «Здесь, — отметил Берман в автобиографии, — нас основательно травили и хотели даже избить...» «Нас» — это группу юнкеров-евреев, приверженцев партии большевиков: Бермана, Бака, Татарийского...
После производства в прапорщики и назначения в Томск, в 25-й запасной стрелковый полк взводным командиром, Берман близко сошелся с Меером Абрамовичем Трилиссером — будущим руководителем советской разведки.
В 1918—1920 годах Берман успел поработать председателем Глазковской уездной ЧК и начальником секретно-оперативной части Екатеринбургской Губчека, где познакомился со Студитовым и рекомендовал его на самостоятельную чекистскую работу в Тюмень.
После образования 6 апреля 1920 года Дальневосточной республики Берман, в ту пору председатель Томской Губчека, возглавил Государственную охрану ДВР. Затем Иркутск, Бурятия, Средняя Азия...
Все это время бок о бок с Матвеем Давыдовичем трудился однокашник по Иркутской школе прапорщиков Борис Аркадьевич Бак, который, в свою очередь, привел в органы ЧК младшего брата — Соломона.
Вскоре Берманов и Баков связал ведомственный брак: брат Матвея — Борис, будущий резидент советской разведки в Берлине, первый заместитель начальника иностранного отдела НКВД и нарком внутренних дел Белоруссии, женился на родной сестре Баков — Марии Аркадьевне, которая тоже служила в НКВД оперуполномоченным секретно-политического отдела.
Так формировались чекистские территориально-родственные кланы, активно продвигавшие своих людей по служебной лестнице и защищавшие их от непредвиденных административно-ведомственных течений. К середине 30-х годов такими наиболее мощными группировками считались украинская, северокавказская и сибирская. Между ними развернулась настоящая подковерная война за лидерство в ОГПУ-НКВД СССР!
Понятно, почему Берманы-Баки не хотели уступать хлебное место председателя Тюменской Губчека, которое после подавления в губернии крестьянского восстания стало еще и рыбным местом.
Однако Ленин и его окружение отводило в своих планах далекому от Москвы северному краю другую роль — места политической ссылки.