В середине 1690-х «Яшка Брюс» упоминается среди царских собутыльников, а когда он женится, посаженым отцом на свадьбе у него будет сам государь.

Хорошо образованному русскому европейцу, принадлежащему к царской «компании» и к тому же интересующемуся артиллерийским и инженерным делом, карьера давалась легко. В первом Азовском походе он не слишком успешно занимался саперными работами (взорвать стену не получилось), зато во второй кампании проявил главный свой талант – научный: изготовил прекрасную географическую карту Днепро-Донского бассейна, за что был пожалован чином полковника.

Царь не взял с собой Брюса в Европу, но, встретившись с английским королем и получив приглашение посетить Лондон, вспомнил, что у него есть собственный британец, и срочно вытребовал его из Москвы.

Яков Вилимович провел на острове несколько месяцев, с огромной охотой изучая всевозможные науки, и просил государя оставить его подольше. В Москву Брюс вернулся уже не столько военным, сколько ученым. В дальнейшем он будет совмещать два эти занятия – государеву службу и собственные научные изыскания в самых различных отраслях. Брюс был настоящим полиматом, «универсальным ученым», который интересовался всем интересным, от химии до движения светил и от математики до мистики. В ту эпоху граница между физикой и метафизикой, астрономией и астрологией, химией и алхимией была еще зыбкой; Брюс с одинаковой страстью отдавался и серьезным, и шарлатанским наукам. На верхнем этаже самого высокого московского здания, Сухаревой башни, он устроил обсерваторию, откуда наблюдал за звездами. В тогдашней России подобных людей не видывали, и Яков Вилимович прослыл чародеем-чернокнижником, легенды о его колдовских чудесах со временем станут городским фольклором.

Однако свободного времени у Брюса было немного. Царь считал его человеком полезным и все время нагружал работой.

Основная специализация Якова Вилимовича, артиллерийское дело, определилась с 1701 года. Потеряв много начальных людей, попавших под Нарвой в шведский плен, Петр расставлял на освободившиеся посты тех, кого лично знал и кому доверял. Брюсу досталось управление прифронтовой Новгородской губернией, откуда надо было отправлять пушки в лишившуюся всей артиллерии действующую армию. С церквей Новгородчины снимали колокола, срочно отливали орудия. Всего за один год русская артиллерия воскресла, обогатившись тремя сотнями стволов.

В качестве командующего осадными батареями Брюс участвует во взятии шведских крепостей. Петр так им доволен, что в 1704 году назначает временно исполнять должность генерал-фельдцейхмейстера (начальника всей артиллерии) вместо грузинского царевича Александра Имеретинского, томящегося в плену.