Однако Петр I не смирился с поражением, наоборот, он развил кипучую деятельность по реорганизации армии. Был произведен новый набор рекрутов в войска, вместо дворянской создана регулярная конница из 10 драгунских полков, изготовлено более 300 пушек. И эта новая русская армия уже в конце 1701 г. и в течение 1702 г. нанесла шведским войскам в Прибалтике первые удары. Затем она перенесла свои боевые действия в Ингрию, как шведы назвали захваченные ими русские земли, прилегавшие к Финскому заливу. К весне 1703 г. она освободила весь бассейн р. Невы и вышла на берега Балтийского моря. 16 мая 1703 г. на острове в устье Невы была заложена Петропавловская крепость, чем и было положено основание Петербургу. В последующие три года русская армия одержала новые успехи, она набиралась боевого опыта, превращаясь в грозную силу.

Между тем положение Августа II становилось все более ненадежным. Шведские войска заняли Варшаву и Краков; под их угрозой польский сейм в 1704 г. объявил Августа низложенным и провозгласил королем шведского ставленника Станислава Лещинского. В ответ была создана Сандомирская конфедерация, которая отказалась признать Лещинского польским королем и объявила войну Швеции. Но шведская армия продолжала наступление, вступила в пределы Саксонии, заняла Лейпциг и заставила Августа II капитулировать. В октябре 1706 г. между Саксонией и Швецией тайно был заключен Альтранштадтский мирный договор, по которому Август II отказывался от польской короны и разрывал союз с русским царем.

Таким образом, Россия осталась в одиночестве в войне со Швецией. Правда, Сандомирская конфедерация подтвердила свой союз с Россией, однако практически никакой военной помощи она не могла оказать. Петр I должен был рассчитывать только на собственные силы. А шведская армия в августе 1707 г. через Польшу двинулась на восток к русским границам. Карл XII рассчитывал главный удар нанести через Смоленск на Москву и там победоносно закончить войну. Русское командование разработало свой стратегический план. Согласно ему решено было дать шведам генеральное сражение не на польской, а на своей, русской территории и в наиболее удобное время и выгодной обстановке, а до этого отступать, нанося шведам частные, но чувствительные удары. Одновременно Петр I приказал укрепить приграничные районы, а население призвал к партизанской войне против иноземных захватчиков.

Расчеты русского командования оказались более правильными. На протяжении 1708 г. по мере продвижения шведских войск в боях у местечка Головчина, с. Доброго и д. Раевки они потеряли несколько тысяч человек. В то же время не удались и попытки шведов атаковать Петербург. В результате Карл XII, дойдя почти до самой русской границы, не решился продолжать дальше наступление на Смоленск и повернул на юг. Он рассчитывал здесь дать зимой своей армии передышку, пополнить запасы продовольствия, получить подкрепление польскими войсками Станислава Лещинского, а также войсками украинского гетмана Мазепы, изменившего России. За это же время он надеялся привлечь на свою сторону Крым и Турцию. Уже то, что удалось заставить Карла XII временно отказаться от своего первоначального плана, похода на Москву, было большой победой русской армии. Еще более ее боевой дух поднялся после того, как в бою 28 сентября 1708 г. при д. Лесной на р. Соже меньшими силами был разбит сильный корпус генерала Левенгаупта, который шел на соединение с главной армией шведов.