Перемена обрядов и обычаев православной церкви требовала значительных усилий, к тому же духовенство и миллионы верующих создавали достаточно эффективную оппозицию. Армия, еще один столп государственности и власти в России, столкнулась с другими проблемами. Петр считал себя солдатом и был глубоко уверен в необходимости преданной, эффективной армии. Однако с первого же дня своего пребывания на троне Петр умудрился нанести оскорбление институту, который больше всего нуждался в поддержке. Он решил реорганизовать русскую армию по прусской модели. Реформы носили глобальный характер. Униформа, дисциплина, муштра, военная тактика, даже командование – все должно было измениться по прусскому образцу. Петр любил аккуратность и отличался щеголеватостью, он хотел, чтобы его солдаты носили облегающую германскую форму. Петр упразднил длинные, свободные мундиры русских солдат, которые были очень полезны во время холодной северной зимы, и заменил их на более тонкую, легкую и облегающую немецкую форму. В скором времени одетых в новую форму и напудренных солдат Российской императорской гвардии трудно было узнать. Русские офицеры должны были появляться в новой форме, украшенной погонами и золотыми аксельбантами. Сам Петр начал носить синюю форму прусского полковника. В начале своего правления ему приходилось надевать широкую голубую ленту российского ордена Святого Андрея, теперь же он заменил ее прусским орденом Черного Орла. Он часто надевал кольцо с миниатюрным портретом короля Фридриха, которое, по его словам, было для него самым дорогим предметом.
Петр никогда не участвовал в боевых действиях, и ему даже не случалось находиться вблизи поля боя, однако он являлся отличным инструктором по строевой подготовке и на плацу заставлял русских солдат часами выполнять упражнения прусской муштры, подкрепляя свои команды ударами тростью. Ни один офицер не мог пропустить строевую подготовку. Грузные, солидные генералы должны были находиться во главе своих полков и выполнять все упражнения на разбитых подагрой, негнущихся ногах.
Некоторые генералы, желая развеселить императора, старались выполнять прусские упражнения как заправские шуты. Однако приказ обрядить солдат в германскую форму и обучение их прусской муштре было только началом. Петр заменил личную охрану государя, которую набирали из солдат Преображенского полка – первого военного полка, созданного еще Петром Великим, почетным полковником которого был Петр III, – на полк гольштейнских кирасиров, переименованный Петром в Охрану императорского дома. Этот поступок вызвал волну возмущения среди гвардии и всей армии. Петр заявил, что собирается распустить и упразднить полки Российской императорской гвардии и распределить солдат среди регулярных войск. Кульминацией среди оскорблений, нанесенных российским военным, стало назначение дяди Петра, принца Георга Людвига Гольштейнского, человека, не имевшего военного опыта, главнокомандующим Российской армией.