Павел Михайлович обеспечил свой музей не только деньгами, но и продумал систему управления. Вопрос этот он намеревался решить по-родственному. Передав после смерти брата Сергея Михайловича галерею городу, Павел Михайлович превратился из собственника в пожизненного попечителя. В случае же его смерти попечителем становился племянник, единственный сын С. М. Третьякова, — своих наследников у Павла Михайловича не было: младший сын скончался от скарлатины, а старший сын Михаил был болен от рождения.

В 1896 году Николай Сергеевич Третьяков внезапно скончался (он был ровесник и приятель Остроухова, занимался вместе с ним живописью и упоминался в его письмах под ласковым именем Третьекаша) и место попечителя оказалось вакантным. К счастью, у Павла Михайловича имелось на примете «достойное лицо».

Руководство галереей Дума поручила коллегиальному органу — Совету, идея создания которого якобы принадлежала Остроухову, предложившему составить его из членов семьи Третьяковых, художников и коллекционеров. Еще имелась почетная должность председателя Совета, каковая отводилась городскому голове, коим тогда являлся князь В. М. Голицын. По просьбе князя Илья Репин дал характеристики членам Совета, который тому предстояло возглавить.

«1. Александра Павловна Боткина… Ближайшая наследница П. М., ближе всех знакомая с симпатиями и планами покойного отца. Хотя еще молодая, но умная, энергическая особа с большой любовью и пониманием искусства, как выросшая в этой галерее. 2. Илья Семенович Остроухов. Близкий приятель покойного, уже много поработавший с ним в галерее, как собиратель художественных произведений сам хорошо знающий ценности этого дела — человек с несомненным вкусом в искусстве, деятельный, чуткий, сам талантливый художник. 3. Илья Евменьевич Цветков — необходимый элемент консервативного характера в искусстве, чтобы иногда и сдерживать молодые порывы двух первых членов комиссии; человек, любящий искусство и хорошо, по опыту, знающий ему цену». Валентин Серов, выбранный «от художников», в рекомендациях не нуждался.

В марте 1899 года Совет принес присягу и приступил к исполнению обязанностей (работа, заметим, велась на общественных началах и денежного вознаграждения не предусматривала). Сначала пришлось сосредоточиться на строительных делах и спешно начать перестраивать дом, в котором жило семейство Третьяковых и который после смерти Павла Михайловича покинуло, равно как и собственно галерею. Внешний облик Московской городской художественной галереи П. М. и С. М. Третьяковых был для московских властей, несомненно, вопросом престижа. Краснокирпичный фасад, придуманный В. М. Васнецовым, одевшим старинный особняк в Толмачах в одежды а-ля рюс, устроил всех. О том, что галерея — городская собственность, напоминал герб Москвы с Георгием Победоносцем, исполненный Николаем Андреевым. Барельеф из песчаника был первой работой скульптора, начинавшего, с легкой руки Остроухова, карьеру монументалиста.