Еще до того, как в русскую историю вошли Шереметевы, рядом с московскими князьями находились потомки Андрея Кобылы – Федор Кошка и Константин Беззубцев. Первый был одним из ближних бояр князя Дмитрия Ивановича: он подписался как свидетель на его духовной грамоте, а это доверялось только проверенным людям. О Федоре Кошке как о выдающемся политике вспоминал в 1408 году хан Едигей. До сих пор сохранилось Евангелие Федора Кошки с изображением четырех евангелистов, написанных мастерами школы Андрея Рублева.

Константин Александрович Беззубцев (внук Кошки) принимал участие в походах против ордынцев, а при Василии II был главным воеводой во время похода на Казань. Его сын Андрей, по прозвищу Шеремет, в 1478 году принимал со своей дружиной участие в походе на Новгород.

Историк XVIII века Герард-Фридрих Миллер утверждал, что «прозвание „Шеремет“ неизвестно от чего происходящее». Исследователь рода Шереметевых А. П. Барсуков считал, что оно имеет сербские или турецкие корни, и в доказательство этого утверждал, что имя Шеремет встречается в сербских песнях, а в Болгарии до сих пор одно местечко носит название «Шеремет». Один из турецких пашей XV века тоже назывался Шереметем. Так или иначе, но Андрей Шеремет был последним родовым боярином. Позднее боярство стали жаловать за службу.

В правление Ивана IV оставили след многие из рода Шереметевых. Так, в «избранную тысячу» были записаны Федор, Никита, Иван Васильевич Шереметевы. Семен, Никита и Иван принимали участие в походе на Казань, в походах против крымских татар, в Ливонской войне…

Никто из Шереметевых не входил в опричнину, но, учитывая отношение Грозного к боярству, легко представить, что царский гнев их не миновал. Известно, что Никита Васильевич был удавлен по приказу царя. Иван Большой Васильевич, несмотря на то, что во время тяжелой болезни царя требовал немедленной присяги его сыну – младенцу Дмитрию, был ранен в сражении с Девлет-Гиреем, участвовал в Ливонской войне, не раз впоследствии испытает на себе царский гнев, будет посажен в темницу, куда к нему, по словам Андрея Курбского, приходил царь, а в конце жизни примет постриг в Кирилло-Белозерском монастыре с именем Ионы. Он будет упомянут в послании Ивана IV игумену монастыря. Курбский считал, что Шереметева «уморили в монастыре по приказу царя». Во время опричнины Иван Васильевич служил земщине. В 1567 году «ведал Москву»…

В историю царствования Ивана IV вошла и Елена Ивановна Шереметева. Она была третьей женой старшего сына Ивана IV – царевича Ивана Ивановича. Елена Ивановна невольно послужила причиной его смерти. Как говорит предание, однажды Иван Грозный неожиданной войдя в покои к снохе, застал ее одетой в «нижнее платье», и, «впав в гнев», ударил ее. Царевич заступился за жену, которая ждала ребенка. Царь ударил сына посохом, и через несколько дней царевич скончался.