Словом, забот хватало. Современники отмечали выдающуюся энергию Карла Фёдоровича и его твёрдую волю, граничившую с упрямством. Но практические навыки пришли не вдруг. Под тем же Дорогобужем Толь просчитался ещё раз. «Не дождавшись неприятеля, — читаем в „Дневнике партизанских действий“ Д. В. Давыдова, — обе армии отошли к Дорогобужу, где Толем была найдена другая позиция, которой князь Багратион также не мог остаться довольным. Во время осмотра новой позиции Ермоловым граф Павел Строганов указал ему на следующую ошибку Толя: его дивизия была обращена затылком к тылу стоящей позади её другой дивизии».

И в первом, и во втором случае ошибки были непростительными, и Толя удалили из армии. Пытаясь в какой-то мере оправдать его, Д. В. Давыдов говорил: «Трудно объяснить себе, каким образом столь искусный и сметливый офицер, каков был Толь, мог делать столь грубые ошибки. Почитая, вероятно, невозможным принять здесь сражение, он не обратил должного внимания на выбор позиции».

Но Карлу Фёдоровичу повезло: новый главнокомандующий вернул его в армию, и ему не пришлось раскаиваться в этом. Толь сыграл главную роль в выборе позиции для генерального сражения на Бородинском поле. В дальнейшем без него не проводился ни один военный совет, без его участия не принималось ни одно решение; он жил в одном доме с Кутузовым и работал в его присутствии.

1 сентября на военном совете в деревне Фили именно Толь предложил отступить на Старую Калужскую дорогу, чтобы защитить южные губернии, обеспечивавшие Россию продовольствием. Это входило в планы Кутузова, но, чтобы запутать противника, он приказал сначала отойти по направлению к Рязани.

Толь участвовал во всех главных сражениях Отечественной войны 1812 года, за что дважды награждался. Военный историк А. И. Михайловский-Данилевский писал о месте Карла Фёдоровича при Кутузове: «Он играл тогда первую роль: доверие к нему государя и фельдмаршала было велико, к нему относились во всех делах и без его совета ничего не предпринималось. Великий князь Константин Павлович сказал ему при изгнании французов из России: „Ты написал им славный маршрут из Тарутина через Вязьму и Красный до Немана!“»

Толь был активен и на полях Европы: участвовал в сражениях при Баутцене, Дрездене и Лейпциге. В последнем был направлен парламентёром к саксонцам, после чего те перешли на сторону союзников (Австрии, Пруссии и России). Кампания 1813 года закончилась для него производством в генерал-лейтенанты и присвоением австрийским императором титула барона.

Удачливыми для Карла Фёдоровича были и два следующих года: в 1814-м принимал участие в семи сражениях на территории Франции, в 1815-м участвовал в заседаниях Венского конгресса, на котором решались судьбы Европы и Наполеона. 1 (13) марта восемь держав (Россия, Англия, Австрия, Пруссия, Испания, Португалия, Швеция и Франция) подписали декларацию, в которой Наполеон был объявлен вне закона как «враг рода человеческого». Тот факт, что Франция, отторгнув Бурбонов, с восторгом приняла Наполеона, коалиция держав сочла доказательством политического и морального разложения французского народа.