На фоне этих событий не такими уж неправдоподобными выглядят обвинения, выдвинутые против бывших покровителей Люшкова Ягоды и Леплевского. Первого обвинили в связях с Троцким, Бухариным и Рыковым, организации троцкистско-фашистского заговора в НКВД, подготовке покушения на Сталина, государственного переворота и интервенции. По словам жены Люшкова, когда в середине мая 1938 года ее муж узнал об аресте Леплевского, то «было видно, что он очень волнуется. С тех пор он стал задумчив и замкнут». В Хабаровске у них дома бывали только Каган Моисей Аронович и Осинин-Винницкий Григорий Маркович. Как теперь известно, вместе они арестовали только на Дальнем Востоке 200 тыс. человек, 7 тыс. из которых расстреляли. Как сообщила жена, не было случая, чтобы Люшков чем-нибудь выказывал свою радость по поводу достижений Советской власти. Более того, в его отношении к Советской власти сквозила ирония. По ее словам, он был страшным карьеристом, лицемером, злопамятным и завистливым чиновником.
13 июня 1938 года в 5 час. утра двое маньчжурских пограничников в утреннем тумане обнаружили Люшкова на территории Маньчжоу-Го. Он сразу же поднял руки, затем достал два пистолета и бросил их. Его доставили в штаб, где он показал, что является начальником Управления НКВД по Дальневосточному краю, комиссаром госбезопасности Люшковым. Всех это поразило. Люшков сразу стал сообщать важные военные сведения, о чем незамедлительно передали в штаб Корейской и Квантунской армий. После этого Люшкова на самолете доставили в Токио и поселили в отдельном особняке в районе Кудан. Он получил должность старшего консультанта в секретном отделе, который занимался пропагандой, разведкой и психологической войной против СССР. По данным Ёсиаки Хиямы, Люшков принял участие в ликвидации закордонной агентурной сети советских спецслужб на Дальнем Востоке, лично участвуя в допросах корейцев, русских и китайцев, применяя при этом самые изощренные пытки.
В частности, Люшков раскрыл операцию «Маки-Мираж», которая проводилась с 1924 года и была направлена на дезинформацию японских спецслужб с помощью легендированной организации в Хабаровске. Операция «Маки-Мираж» завершилась внезапно после того, как японцам о ней рассказал Люшков, главный чекист Дальнего Востока. Уже фактически шла Вторая мировая война, японская Квантунская армия громила китайцев и готовилась к нападению на Советский Союз. Когда же японцы узнали, что все это время чекисты водили их за нос, они решили проверить силы Красной Армии боем и уже в июле 1938 года, через месяц после бегства Люшкова, ударили у озера Хасан. И лишь благодаря своевременной информации Рихарда Зорге о времени и месте нападения Красная Армия сосредоточила силы именно там, где они требовались. Бои были кровопролитными, но японцы поверили, что восточные рубежи Советского Союза надежно защищены. А вот если бы этот наскок увенчался успехом, то Великая Отечественная война могла бы начаться на три года раньше. Причем не на западе, а на востоке и именно из-за Люшкова. Такова цена предательства.
14 августа 1945 года имперский генеральный штаб по приказу императора Хирохито объявил о капитуляции Японии, после чего 16 августа командующий Квантунской армией генерал Ямада Отодзо приказал своей армии сдаться. Судьба Люшкова, который становился ненужным свидетелем, поскольку знал множество секретов японских спецслужб, теперь находилась в руках командующего Порт-Артуром, начальника штаба обороны Квантунского полуострова генерал-лейтенанта Гэндзо Янагита, который с 1940 по 1943 год возглавлял Японскую военную миссию в Харбине и был помощником начальника военной разведки Квантунской армии. Вердикт генерала Янагита был предельно жестким. В своем кратком разговоре с капитаном Такеока Юсаки он сказал: «Если Люшков откажется от самоубийства, необходимо его ликвидировать».
19 августа Люшкова вызвали в здание военной миссии в Дайрене. Как показал позднее на допросе Такеока Юсаки, «я стал вести разговор о том, чтобы он покончил жизнь самоубийством, указав на безвыходность создавшегося положения. Но Люшков отказался от самоубийства и опять настоятельно требовал создать ему условия для побега. Я предложил пойти вместе с ним в порт, якобы подыскать подходящее судно, на котором он мог бы уплыть в Китай. Спустившись со второго этажа, на ступеньках к выходу во двор я быстро зашел вперед и внезапно из имеющегося у меня браунинга выстрелил ему в левую сторону груди. Он упал. Это было примерно в 11 часов 30 минут вечера».
После этого Такеока распорядился добить раненого. Начальник разведывательного отделения миссии Аримица Кадзуо выполнил приказ: «Я взял пистолет и выстрелом в висок добил этого человека насмерть». Сотрудникам миссии Такеока заявил, что «по приказу генерала Янагита был убит важный преступник, а сам этот факт является государственной тайной». Рано утром 20 августа 1945 года солдаты привезли в местный военный госпиталь замотанный в простыню труп. По распоряжению начальника госпиталя Иосимуры Фумио труп был кремирован. Урна с прахом была доставлена в военную миссию, а оттуда, по распоряжению Такеоки в один из местных буддийских храмов.
Таким образом, вторую половину 1930-х годов в истории внешней разведки, ставшей 5-м отделом Главного управления государственной безопасности НКВД СССР, с полным основанием можно назвать «эпохой великих провалов». В ходе расследования предательств и заговоров в высших эшелонах власти, лично Сталиным и Политбюро ЦК ВКП(б) по т. н. «сталинским расстрельным спискам» было осуждено 44 893 человека, в т. ч. в период «большого террора» 19371938 годов 43 768 человек. В основной своей массе это были руководители различных рангов, в том числе силовых структур, прежде всего РККА. В этот период было расстреляно 78 % членов ЦК ВКП(б), т. е. партийной элиты. Самой жёсткой чистке подверглись органы НКВД.
17 ноября 1938 года вышло совместное Постановление СНК СССР и ЦК ВКП(б) «Об арестах, прокурорском надзоре и ведении следствия», в котором говорилось: «Враги народа и шпионы иностранных разведок, пробравшиеся в органы НКВД как в центре, так и на местах, продолжая вести свою подрывную работу, старались всячески запутать следственные и агентурные дела, сознательно извращали советские законы, проводили массовые и необоснованные аресты, в тоже время спасая от разгрома своих сообщников, в особенности, засевших в органах НКВД».
23 ноября 1938 года Ежов написал в Политбюро ЦК ВКП (б) и лично Сталину прошение об отставке, в котором признал себя ответственным за вредительскую деятельность врагов народа, проникших в НКВД и прокуратуру, брал на себя вину за многочисленные побеги разведчиков и высокопоставленных сотрудников НКВД за кордон прежде всего Люшкова. 24 ноября 1938 года Ежов был освобождён от обязанностей наркома внутренних дел СССР.
На следующий день, 25 ноября 1938 года, наркомом внутренних дел СССР был назначен Лаврентий Павлович Берия. С этого момента репрессивная политика Советской власти кардинально меняется. Ни о каком «большом терроре» речь больше не идет. Если за 1937 и 1938 годы было расстреляно 681 тыс. 692 человека, то в 1939 году по обвинению в контрреволюционных преступлениях были приговорены к высшей мере наказания 2 тыс. 600 человек, а в 1940 году 1 тыс. 600 человек.
Результаты кадровой политики Берия выглядят весьма впечатляюще. Вначале посмотрим, как ситуация складывалась до его прихода. Согласно справочнику «Кто руководил НКВД. 19341941 годы», на момент создания НКВД СССР 10 июля 1934 года из 96 руководящих работников 37 (38,54 %) были евреями и 30 русскими (31,25 %). Кроме того, насчитывалось 7 (7,29 %) латышей, 5 (5,21 %) украинцев, 4 (4,17 %) поляка, 3 (3,13 %) грузина, 2 (2,08 %) немца и еще ряд представителей других национальностей. В конце сентября 1936 года, т. е. в пиковый период активности Ягоды, когда его едва удалось остановить с помощью Ежова, из 110 руководителей НКВД СССР уже 43, т. е. почти 40 % были евреями. Среди остальных 33 (30,00 %) русские, 9 (8,18 %) латыши, 6 (5,45 %) украинцы, 5 (4,55 %) поляки, 4 (3,64 %) грузины, 2 (1,82 %) немцы и т. д.
На Украине ситуация складывалась еще более драматично. Как указывает Александр Север, здесь в 1935 году среди 90 высокопоставленных чекистов (т. е. тех, кто имел звание капитан ГБ и выше) евреев было 60 (66,67 %); русских 13 (14,44 %); украинцев 6 (6,67 %); латышей 3 (3,33 %); поляков 2 (2,22 %) и т. д.
После того, как наркомом внутренних дел был назначен Лаврентий Павлович Берия, ситуация радикально меняется. На 1 июля 1939 года среди 153 руководящих работников НКВД СССР насчитывалось уже 102 (66,67 %) русских, 19 (12,42 %) украинцев, 12 (7,84 %) грузин и только 6 (3,92 %) евреев при полном отсутствии поляков, латышей и немцев. На 26 февраля 1941 года картина была следующей: русских 118 (64,84 %), украинцев 28 (15,38 %), грузин 12 (6,59 %), евреев 10 (5,49 %), белорусов 4 (2,20 %), нет данных 4 (2,20 %), прочих 3 (1,65 %), армян 2 (1,10 %) и один латыш (0,55 %).
В результате проведенных чисток были арестованы бывшие начальники ИНО Трилиссер, Мессинг и Артузов (Фраучи). 17 февраля 1938 года скоропостижно скончался Абрам Слуцкий (существует версия его отравления), в октябре-ноябре 1938 года по обвинению в госизмене арестованы Пассов и Шпигельглас. В это же время из-за кордона для проверки с последующим арестом отзывают большинство сотрудников резидентур. Среди них резидент ИНО в Лондоне Адольф Сигизмундович Чапский (настоящие имя Авраам Абба Давидович или Антон Вацлавович Шустер), сменивший его Григорий Борисович Графпен, руководитель лондонской нелегальной резидентуры Теодор Степанович Малли, резиденты в Париже Станислав Мартынович Глинский и Георгий Николаевич Косенко, руководитель нелегальной резидентуры в Риме Моисей Маркович Аксельрод, резидент в Берлине Борис Моисеевич Гордон, руководитель нелегальной резидентуры в Германии Файвель Калманович Парпаров, резидент в Вашингтоне Пётр Давидович Гутцайт, руководитель спецгруппы особого назначения (СГОН) при НКВД СССР Яков Исаакович Серебрянский, его помощник Альберт Иохимович Сыркин-Бернарди и многие другие. Всего в 19371938 годах из 450 сотрудников ИНО (включая загранаппарат) было арестовано 275 человек.