Был переправлен в Японию, сотрудничал с японским военным ведомством. Раскрыл перед японцами всю известную ему информацию о сталинском терроре и о методах НКВД вообще. 13 июля 1938 г. в интервью японской газете «Ёмиури симбун» Люшков заявил: «Я до последнего времени совершал большие преступления перед народом, так как я активно сотрудничал со Сталиным в проведении его политики обмана и терроризма. Я действительно предатель. Но я предатель только по отношению к Сталину… Таковы непосредственные причины моего побега из СССР, но этим дело не исчерпывается. Имеются и более важные и фундаментальные причины, которые побудили меня так действовать. Это то, что я убеждён в том, что ленинские принципы перестали быть основой политики партии…»

Люшков оказался наиболее высокопоставленным перебежчиком из НКВД. Он работал в Токио и Дайрэне (Даляне) в разведорганах японского Генштаба (в «Бюро по изучению Восточной Азии», советником 2-го отдела штаба Квантунской армии).

Люшков передал японцам исключительно важные сведения о советских вооружённых силах, в частности, в особо интересующем их Дальневосточном регионе: подробную информацию о дислокации войск, строительстве оборонительных сооружений, крепостях и укреплениях и т. д. Для японцев оказалось неожиданным, что СССР имеет довольно значительное военное превосходство на Дальнем Востоке. Люшков передал японцам детальную информацию о планах развёртывания советских войск не только на Дальнем Востоке, но и в Сибири, на Украине, раскрыл военные радиокоды. Он выдал японцам важнейших агентов органов НКВД на Дальнем Востоке и проводящиеся разведывательные игры (в частности, раскрыл операцию «Маки-Мираж», что послужило толчком к активным военным провокациям со стороны Квантунской армии и, возможно, способствовало развязыванию японцами вооружённого конфликта на Халхин-Голе). Японские силы в Корее и Маньчжурии, которые возможно было использовать против СССР, насчитывали всего лишь 9 дивизий, тогда как Советский Союз может использовать против Японии в нормальных условиях до 28 стрелковых дивизий, а при необходимости сосредоточить от 31 до 58 дивизий. Против 2000 советских самолётов Япония могла выставить лишь 340 и против 1900 советских танков – только 170. Это делало фактически невозможным осуществление ранее составленного плана военных операций против СССР.

Люшков предложил японцам даже план убийства Сталина. Они охотно за него ухватились. Как пишет японский исследователь Хияма, это была чуть ли не единственная серьёзно подготовленная попытка покушения на Сталина. По долгу службы на посту начальника отделения НКВД по Азово-Черноморскому краю Люшков нёс персональную ответственность за охрану вождя в Сочи и знал, что Сталин лечился в Мацесте. Расположение корпуса, где Сталин принимал ванны, порядок и систему охраны Люшков хорошо помнил, так как сам их разрабатывал. Люшков возглавил диверсионную группу из русских эмигрантов, которую японцы в 1939 г. перебросили к советско-турецкой границе. Однако в диверсионную группу был внедрён советский агент, и переход через границу сорвался.