Для немцев и японцев показания Люшкова были очень ценны, особенно сведения о частях Красной армии и о политико-экономической обстановке в СССР.
23 ноября 1938 г. Н. И. Ежов направил в Политбюро ЦК ВКП(б) на имя И. В. Сталина письмо с просьбой освободить от работы наркома внутренних дел. В числе прочих причин своего освобождения с поста он указал, что «вина моя в том, что, сомневаясь в политической честности таких людей, как бывший нач. УНКВД ДВК предатель Люшков и последнее время Наркомвнудел Украинской ССР предатель Успенский, не принял достаточных мер чекистской предупредительности и тем самым дал возможность Люшкову скрыться в Японию и Успенскому пока неизвестно куда, и розыски которого продолжаются.
Все это вместе взятое делает совершенно невозможным мою дальнейшую работу в НКВД»602.
25 ноября 1938 г. И. В. Сталин направил шифртелеграмму руководителям парторганов, проинформировав их о неблагополучном положении в НКВД. Он писал, что в середине ноября текущего года в ЦК поступило заявление из Ивановской области от т. Журавлева (начальник УНКВД) об ошибках в работе НКВД, о невнимательном отношении к сигналам с мест, о том, что нарком Ежов не реагировал на эти предупреждения. Одновременно в ЦК поступали сведения о том, что после разгрома банды Ягоды в органах НКВД СССР появилась другая банда предателей, вроде Николаева, Жуковского, Люшкова, Успенского, Пассова, Федорова, которые запутывали следственные дела, выгораживая заведомых врагов народа.
ЦК ВКП(б) потребовал от Ежова объяснений. Ежов признал, что не справился со своими задачами в НКВД и просил освободить его от обязанностей наркома НКВД, сохранив за ним посты по НКВоду и по линии работы в органах ЦК ВКП(б). ЦК ВКП(б) удовлетворил просьбу Ежова.
Таким образом побег Люшкова стал основным поводом смещения наркома НКВД Н. И. Ежова.
Люшков семь лет работал на японский Генеральный штаб в составе Бюро по изучению Восточной Азии. Он занимался проработкой данных советской прессы, был участником планирования работ местной разведки и входил в состав сотрудников по психологической войне. Жил в Токио, носил фамилию Маратов, а в самом конце войны сменил ее на Ямогучи.
Сотрудник разведки японского Генштаба М. Сагуэса так характеризовал Люшкова: «В нем было что-то демоническое. Под его взглядом хотелось съежиться, спрятаться. Руки и ноги делались вялыми. Мысли путались. Вероятно, подобное чувство испытывает кролик, встречаясь взглядом с удавом. Я безоговорочно верил рассказам Люшкова о том, как он добивался признаний у арестованных оппозиционеров. Ему, конечно, ничего не стоило загнать человеку иголку под ногти или прижечь тело горящей папиросой».