Как это часто бывает, помог случай. Как-то раз в конторе собрались посетители и среди них старик казак. Последний вскоре уснул. Мартирос быстро зарисовал всю группу посетителей, в том числе и уснувшего старика. Рисунки были одобрены всеми, за исключением казака. Суеверный старик увидел в этом «грех». Как назло, он на другой день заболел. Приписав это рисунку, он пришёл в контору пожаловаться хозяину. Последний потребовал злополучный рисунок и на глазах мальчика изорвал его. Это происшествие побудило брата художника принять окончательное решение и отправить Мартироса в Москву для поступления в Училище живописи, ваяния и зодчества. Списались с обучавшимся в Училище земляком А. Арцатбаняном, и в феврале 1896 года М. Сарьян был отправлен в Москву, где поселился у Арцатбаняна; у него же он стал брать уроки рисования.

Через год Сарьян поступает в Московское Училище живописи, ваяния и зодчества, где занимается с 1897 по 1903 год, проходя одновременно общеобразовательные предметы, как не имеющий аттестата зрелости. Окончив Училище (1903), Сарьян работает ещё полтора года в специальной мастерской, которой руководили, сменяясь ежемесячно, В. Серов и К. Коровин.

Московское Училище живописи, ваяния и зодчества на рубеже XIX и XX веков, то есть в годы, когда там обучался Сарьян, было уже не тем, каким оно было во время преподавания там Перова, Прянишникова и других. Ослабление в Училище влияния идей передвижников началось ещё в 90-х годах. В этом отношении очень показательна докладная записка одного из видных преподавателей Училища К. Горского, написанная ещё в 1894 году, согласно которой задача обучения «заключается главным образом в том, чтобы облегчить ученику его первые шаги и дать ему определённые знания, без которых он не может обойтись, будь то гений или полное ничтожество в области того искусства, которое он себе избрал... Наше же Училище должно дать технику, а техника достаточно определённа... Выпустивши учеников из нашего Училища в жизнь с тем запасом знаний, который я от него требую, нельзя бояться за его будущее, к какому бы направлению он ни примкнул, хотя бы стал крайним импрессионистом.»[6]

Учителями Сарьяна в Училище были К. Горский, А. Корин, В. Бакшеев, С. Милорадович, Н. Касаткин, Л. Пастернак, А. Архипов. Некоторое время Сарьян работал в мастерских А. Степанова и А. Васнецова. Последний заменил умершего И. Левитана, у которого Сарьяну пришлось работать очень недолго.

За время пребывания в Училище Сарьян получил необходимые навыки. Об этом можно судить по его произведениям ученических лет. «Портрет матери», «Портрет дяди», этюд коровы — это грамотно написанные работы, но индивидуальности художника в них пока нет.