9 июня 1938 г. Люшков сообщил заместителю Г. М. Осинину-Винницкому о своём выезде в приграничный Посьет для встречи с особо важным агентом. В ночь на 13 июня он прибыл в расположение 59-го погранотряда, якобы для инспекции постов и приграничной полосы. Люшков был одет в полевую форму при наградах. Приказав начальнику заставы сопровождать его, он пешком двинулся к одному из участков границы. По прибытии Люшков объявил сопровождающему, что у него встреча на «той стороне» с особо важным маньчжурским агентом-нелегалом, которого никто не должен знать в лицо, поэтому, дальше он пойдёт один, а начальник заставы должен углубиться в сторону советской территории на полкилометра и ждать условного сигнала. Люшков ушёл, начальник заставы сделал как было приказано, но, прождав более двух часов, поднял тревогу. Более сотни пограничников прочёсывали местность до утра. Неделю, пока не пришли вести из Японии, Люшков считался пропавшим без вести. Считали, что его похитили (убили) японцы. Люшков же к тому времени пересёк границу, 14 июня 1938 г. примерно в 5:30 у города Хуньчунь сдался маньчжурским пограничникам и попросил политического убежища.
Был переправлен в Японию, сотрудничал с японским военным ведомством. Раскрыл перед японцами всю известную ему информацию о сталинском терроре и о методах НКВД вообще. 13 июля 1938 г. в интервью японской газете «Ёмиури симбун» Люшков заявил: «Я до последнего времени совершал большие преступления перед народом, так как я активно сотрудничал со Сталиным в проведении его политики обмана и терроризма. Я действительно предатель. Но я предатель только по отношению к Сталину… Таковы непосредственные причины моего побега из СССР, но этим дело не исчерпывается. Имеются и более важные и фундаментальные причины, которые побудили меня так действовать. Это то, что я убеждён в том, что ленинские принципы перестали быть основой политики партии…»
Люшков оказался наиболее высокопоставленным перебежчиком из НКВД. Он работал в Токио и Дайрэне (Даляне) в разведорганах японского Генштаба (в «Бюро по изучению Восточной Азии», советником 2-го отдела штаба Квантунской армии).
Люшков передал японцам исключительно важные сведения о советских вооружённых силах, в частности, в особо интересующем их Дальневосточном регионе: подробную информацию о дислокации войск, строительстве оборонительных сооружений, крепостях и укреплениях и т. д. Для японцев оказалось неожиданным, что СССР имеет довольно значительное военное превосходство на Дальнем Востоке. Люшков передал японцам детальную информацию о планах развёртывания советских войск не только на Дальнем Востоке, но и в Сибири, на Украине, раскрыл военные радиокоды. Он выдал японцам важнейших агентов органов НКВД на Дальнем Востоке и проводящиеся разведывательные игры (в частности, раскрыл операцию «Маки-Мираж», что послужило толчком к активным военным провокациям со стороны Квантунской армии и, возможно, способствовало развязыванию японцами вооружённого конфликта на Халхин-Голе). Японские силы в Корее и Маньчжурии, которые возможно было использовать против СССР, насчитывали всего лишь 9 дивизий, тогда как Советский Союз может использовать против Японии в нормальных условиях до 28 стрелковых дивизий, а при необходимости сосредоточить от 31 до 58 дивизий. Против 2000 советских самолётов Япония могла выставить лишь 340 и против 1900 советских танков – только 170. Это делало фактически невозможным осуществление ранее составленного плана военных операций против СССР.
Люшков предложил японцам даже план убийства Сталина. Они охотно за него ухватились. Как пишет японский исследователь Хияма, это была чуть ли не единственная серьёзно подготовленная попытка покушения на Сталина. По долгу службы на посту начальника отделения НКВД по Азово-Черноморскому краю Люшков нёс персональную ответственность за охрану вождя в Сочи и знал, что Сталин лечился в Мацесте. Расположение корпуса, где Сталин принимал ванны, порядок и систему охраны Люшков хорошо помнил, так как сам их разрабатывал. Люшков возглавил диверсионную группу из русских эмигрантов, которую японцы в 1939 г. перебросили к советско-турецкой границе. Однако в диверсионную группу был внедрён советский агент, и переход через границу сорвался.
В 1939 г. Люшков был заочно приговорён в СССР к смертной казни.
В некоторых японских источниках указывается, что в июле 1945 г., накануне вступления СССР в войну с Японией, предателя отправили в Квантунскую армию. 16 августа 1945 г. командование Квантунской армии объявило о капитуляции. 19 августа Люшкова пригласил к себе начальник Дайрэнской военной миссии Ютака Такэока, который предложил ему покончить жизнь самоубийством (по-видимому, чтобы скрыть от Советского Союза известные Люшкову данные о японской разведке). Люшков отказался и был застрелен Такэокой, тело тайно кремировано (через 3 дня Дайрэн был занят Советской армией).