Утром 13 июня человек в полевой форме, с тремя малиновыми ромбами на петлицах и орденами на груди набрёл на маньчжурского пограничника и на ломаном японском приказал отвести себя в штаб. Там поначалу испугались такого подарка и робко доложили о госте начальству. Через несколько дней Люшков уже был в Токио. Побег тщательно скрывался и японской, и советской сторонами, но в СССР скоро сделали соответствующие оргвыводы. Предательство Люшкова стало одной из причин смещения его покровителя Ежова и одним из главных пунктов обвинения стального наркома.
24 июня информация о переходе какого-то важного чекиста к японцам появилась в рижской газете. Ещё через несколько дней эту новость, уже с упоминанием фамилии Люшкова, подхватила немецкая пресса. Японцы решили, что скрывать беглеца нет смысла. 13 июля в токийском отеле «Санно» состоялась пресс-конференция. Охранников в штатском на ней было больше, чем журналистов, – японцы серьёзно опасались покушения на перебежчика. Сначала Люшков выступил перед иностранными журналистами, а потом – перед японскими. Он продемонстрировал своё служебное удостоверение и корочки депутата Верховного Совета, рассказал, что он противник не СССР, а сталинизма, подробно остановился на размахе репрессий в Советском Союзе. В кабинетах японских разведчиков Люшков был гораздо более разговорчивым. Он подробно расписал места расположения частей Красной армии на Дальнем Востоке, их численность, систему развёртывания войск в случае начала военных действий. Японский генштаб был неприятно поражён численным перевесом советских войск, которые намного превосходили японские не только в живой силе, но и по количеству самолётов и танков. Правдивость слов перебежчика подтвердилась во время произошедших вскоре столкновений на озере Хасан и Халхин-Голе. Кроме того, чекист выдал новым хозяевам всех советских агентов, о которых знал, в том числе завербованного НКВД белого генерала Семёнова.
Информацией Люшкова серьёзно заинтересовался немецкий абвер. Адмирал Канарис послал в Токио своего личного представителя полковника Грейлинга, который по результатам разговоров с бывшим чекистом составил толстенный доклад. Москва требовала от своего резидента в Японии Рихарда Зорге узнать, что именно разболтал немцам Люшков, но всемогущий агент Рамзай смог переснять всего несколько страниц этого доклада. Впрочем, и по ним было ясно, что Люшков не скрывал ничего.
В обмен на все эти сведения Генрих Самойлович попросил всего лишь найти его семью. Но тщательные поиски в Польше и Прибалтике не дали результата. Позже выяснилось, что жена поторопилась с отправкой условленной телеграммы и 15 июня 1938 года была арестована вместе с дочкой ещё на территории СССР. До сих пор встречаются сведения, что Нину Письменную-Люшкову после жестоких пыток расстреляли, но на самом деле органы обошлись с ней до странности мягко. 19 января 1939 года Люшкова-Письменная Н. В. была осуждена как член семьи изменника родины на 8 лет лагерей. 15 февраля 1940 года Особое совещание при НКВД пересмотрело её дело, постановило считать её отбывшей срок и отправило в пятилетнюю ссылку. В 1962 году Нина Письменная была полностью реабилитирована и перебралась в Латвию, где скончалась в 1999 году. Её дочь Людмила не сгинула, как утверждалось, в спецдетдоме, а воспитывалась родственниками и умерла в Латвии в 2010 году.
Всего этого Люшков не мог знать, он лишь понимал, что его семья пропала. За это он решил мстить лично Сталину и предложил японцам организовать покушение на него. Во время работы на юге Люшков лично разрабатывал систему охраны дачи Сталина в Мацесте и задумал нанести удар по вождю именно там. Подготовленная группа из белоэмигрантов была переброшена японцами на советско-турецкую границу… Тщательно разработанный план одного из крайне немногочисленных реальных покушений на Сталина сорвался в последний момент – среди диверсантов оказался агент НКВД, о котором Люшков не знал. Переход границы не удался. После этого Люшков полностью прекратил общение с белоэмигрантами в Китае, опасаясь многочисленных советских агентов.
Люшков был назначен старшим консультантом секретного отдела японского генштаба, который занимался разведкой, пропагандой и психологической войной против СССР. Бывший чекист регулярно знакомился с советской печатью и составлял обширные, но очень дельные доклады, выжимки из которых даже публиковались анонимно в японской прессе. Жил Люшков уединённо, мало гулял, интересовался только работой. Стиль его жизни не изменился, когда во время войны его перевели в штаб Квантунской армии.