Николаша, видимо, искренне надеялся, что Временное правительство оценит его рвение и он снова возглавит войска. Но новой власти уже был не нужен хоть и «преданный», но Великий князь. Буквально через несколько дней новым главковерхом назначили М.В. Алексеева, активного участника отречения императора. Николай Николаевич был настолько обескуражен такой неблагодарностью, что полностью оставил военную деятельность и уехал с женой в своё крымское имение Чаир. «Можно только удивляться простодушию этого человека, который проезжает по России, охваченной восстанием от Кавказа до Могилёва, и не замечает ни толп народа, ни демонстраций, ни мятежей и остаётся непоколебимым в своей вере, что “новые командиры” оценят его безупречный патриотизм и военный опыт!» (Великий князь Александр Михайлович).
Чаир представлял собой поистине райский уголок. Стараниями Анастасии Николаевны здесь возник чудесный сад с разнообразными сортами благоухающих роз. В Крыму Николай Николаевич замкнулся в своём дворце, редко появляясь даже в парке, и засел за военные мемуары.
Пережив все крымские злоключения, в том числе и арест в Дюльбере, Николай Николаевич покинул Россию в апреле 1919 года вместе с императрицей Марией Фёдоровной на британском дредноуте «Мальборо». 16 апреля 1919 года из Константинополя на британском корабле «Лорд Нельсон» он вместе с братом Петром уехал в Геную. В эмиграции Николай Николаевич сначала остановился в Италии (королевой Италии была сестра его жены), а затем поселился на юге Франции, в курортном городке Антиб.
Многие вожди Белого движения относились к Николаю Николаевичу с большим уважением. На одном из допросов адмирал А.В. Колчак сказал: «Я… считал Николая Николаевича самым талантливым из всех лиц императорской фамилии. Поэтому я считал, что раз уж назначение состоялось из императорской фамилии, то он является единственным лицом, которое действительно могло нести обязанности главнокомандующего армией, как человек, всё время занимавшийся и близко знакомый с практическим делом и много работавший в этой области. Таким образом, в этом отношении Николай Николаевич являлся единственным в императорской фамилии лицом, авторитет которого признавали и в армии, и везде».
Его популярность в армии и тот факт, что он являлся последним «законным» главнокомандующим, назначенным ещё Николаем II, предопределили его видное положение в русской, особенно военной, эмиграции. Сам он, правда, ни на какие должности и звания не претендовал, но его слово было весомо и много значило. Барон П.Н. Врангель и РОВС признавали Николая Николаевича верховным вождём русской армии, так же относились к нему и некоторые политические организации. На монархическом съезде в Рейхенгалле имя Николая Николаевича звучало чаще всего. Как старший по возрасту член династии, он рассматривался многими в качестве законного претендента на российский престол, хотя сам никаких монархических претензий не высказывал. Нетрудно понять, почему именно к нему с особым письмом обратился Великий князь Кирилл Владимирович после того, как провозгласил себя Императором Всероссийским. И именно ему написала Мария Фёдоровна, сочтя действия Кирилла «преждевременными». Николай Николаевич решительно отверг притязания Кирилла Владимировича на императорский титул, заявив, что вопрос о монархии может решаться только русским народом на родной земле. Эта позиция послужила началом серьёзного раскола в русской монархической эмиграции и в самой династии Романовых. Последствия этого дают о себе знать и в настоящее время. Конечно, многие считали Кирилла Владимировича изменником за его поведение во время февральско-мартовских событий, но не следует забывать, что и сам Николай Николаевич был причастен к падению в России монархии.