Авторитет Ежова перестал быть неоспоримым. 12 июня председатель Госплана Николай Вознесенский в кулуарной беседе поставил под сомнение административное рвение Ежова при массовом раскрытии заговоров. Чуть позже, 30 июня, заместитель наркома обороны Ворошилова Иван Федько обратился к шефу с просьбой устроить ему встречу с Ежовым, чтобы доказать свою невиновность. Ворошилов отговаривал его со словами: "Не надо ходить к Ежову… Вас там заставят написать на себя всякую небылицу… Там все признаются". И действительно, через неделю Федько арестовали. После своего ареста Ежов показал, что где-то в июле 1938 года Сталин и Молотов стали вдруг интересоваться его подозрительными связями с Ф.М. Конаром, с которым он когда-то работал в наркомате земледелия, пока в 1933 году Конара не казнили как "польского шпиона". В 1937–1938 годах Польша и "польский шпионаж" в глазах Сталина представляли очень серьезную угрозу, и связь с разоблаченным польским шпионом считалась непростительной. Так, позднее Ежов опишет свои ощущения: "Я почувствовал к себе недоверие Сталина. Он несколько раз ставил передо мной вопрос о моих связях с Конаром".
Ощущая недовольство Сталина, Ежов сознавал, что его положение становится шатким. А потому, когда 14 июля резидент НКВД в Испании Александр Орлов был вызван на встречу в Антверпен и не появился, он не сразу доложил об этом Сталину, опасаясь, что этот факт потом тоже поставят ему в вину. Ежов чувствовал, что вождь начал догадываться, кто предупредил Люшкова об опасности. Умолчание о побеге Орлова завершало картину. У Сталина появлялось все больше оснований не доверять ему.
В начале августа глава НКВД Украины А.И. Успенский прибыл в Москву на сессию Верховного Совета, которая должна была начаться 10 августа. Как он потом показал после своего ареста, на Лубянке начальник секретариата НКВД И.И. Шапиро встревожено сказал ему что, "у Ежова большие неприятности, так как ему в ЦК не доверяют". И он слышал, что в заместители к "Ежову придет человек которого надо бояться". Его имени Шапиро не назвал и еще заявил, что "нужно заметать следы" - в течение следующих пяти дней расстрелять тысячу человек. Когда Успенский вместе с начальником УНКВД по Ленинградской области М.Н. Литвиным встретились с Ежовым у него на даче, он подтвердил: "Нужно прятать концы в воду. Нужно в ускоренном порядке закончить все следственные дела чтобы нельзя было разобраться". А Литвин добавил, что "если не удастся все скрыть придется перестреляться. Если я увижу, что дела плохи - застрелюсь". Самому же Успенскому, как он признал позднее, именно в тот момент пришла в голову мысль о побеге.
Решение назначить к Ежову нового первого заместителя созрело уже к концу июля 1938 года. Возможно, Сталин был просто недоволен состоянием дел в НКВД: следственные процедуры отнимали слишком много времени, в результате тюрьмы были переполнены, а массовые операции затягивались. Возможно, выражением недовольства этой задержкой стало безотлагательное утверждение Сталиным расстрельного списка большой группы видных правительственных, военных и партийных функционеров с приведением в исполнение 29 июля. Аресты людей из окружения Ежова, Булаха, Леплевского и Заковского в апреле, Дмитриева в июне, наверное, тоже были следствием постепенной утраты доверия Сталина к Ежову. Знаменательно, что к 10 августа разнесся слух о грядущем назначении нового заместителя Ежова, которое ничего хорошего ему не предвещало. Поспешный расстрел большой группы заключенных 29 июля не был случайностью; через месяц, 26 и 29 августа, была расстреляна еще одна группа, в том числе Заковский, Салынь и Миронов. Ежов явно торопился избавиться от людей, которые могли дать на него показания.
В связи с обсуждением в Верховном Совете нового закона "О судоустройстве СССР" в августе в чекистской среде пошел и другой слух, что массовые операции прекратятся и вернется "советская законность". Чекистская верхушка верила этим слухам, но в целом разницы никакой не было. Массовые репрессии шли полным ходом и достигли апогея после 15 сентября, когда для рассмотрения дел по остаткам национальных контингентов были созданы Особые тройки. А в регионах, где продолжалась так называемая "кулацкая операция", проводимая согласно приказу НКВД № 00447 по выделяемым "лимитам", наряду с Особыми тройками сохранились и действовали тройки старого образца, члены которых были персонально назначены решениями Политбюро.
В начале августа, еще до возвращения Фриновского с Дальнего Востока, Сталин выдвинул его кандидатуру на пост наркома Военно-морского Флота, с повышением, и одновременно пресек попытку Ежова назначить своего протеже Литвина на место Фриновского. О чем, между прочим, Литвин только и мечтал. Вот почему Шапиро был встревожен предстоящим назначением нового первого заместителя, хотя в то время даже не догадывался, кто бы это мог быть. В любом случае выдвиженец Сталина не мог прийтись по вкусу Ежову.
22 августа 1938 года первым заместителем наркома внутренних дел стал первый секретарь ЦК КП(б) Грузинской ССР Лаврентий Берия. Похоже, к этому времени Ежов уже начал собирать на него компромат в связи с усилением его авторитета. Об этом свидетельствуют бумаги, сохранившиеся в личном фонде Ежова. Более того, по распоряжению Ежова начальник 4-го отдела 1-го управления НКВД Д.С. Журбенко 1 июля 1938 года затребовал из ЦГАОР (ныне ГАРФ) ряд дел из фонда меньшевистского правительства Грузии, в которых мог упоминаться Берия "как агент контрразведки" меньшевиков. Ему были выданы дела из фонда 1865 (дела 17, 24, 29, 34) и из фонда 1005 (дела 240 и 1021). Причем позднее, 16 ноября 1938 года, дела 240 и 1021 были возвращены в архив, а остальные вплоть до 1953 года в архив так и не возвращались.
По одной из версий, Ежов даже давал санкцию на арест Берии, но тот узнал об этом от главы НКВД Грузии Гоглидзе и сразу приехал в Москву, чтобы увидеться со Сталиным. Состоялся их продолжительный разговор, закончившийся назначением Берии первым замом Ежова. В этом рассказе не учтена малость - без ведома Сталина Ежов не стал бы ничего предпринимать против члена ЦК и члена Президиума Верховного Совета СССР Берии, а уж тем более подписывать ордер на его арест. А если же Сталин давал такую санкцию, то он наверняка не принял бы Берию, и его арест последовал бы незамедлительно. Вероятно, что Сталин говорил с Берией о переводе в НКВД на должность первого заместителя на сессии Верховного Совета, которая открылась 10 августа; как члены президиума Верховного Совета они регулярно встречались. И хотя в период между 11 марта и 13 сентября 1938 года не зарегистрировано ни одного визита Берии в кремлевский кабинет Сталина, следует учесть, что в журнале посетителей не отражались все его встречи.
Согласно записи в журнале регистрации посетителей кабинета наркома внутренних дел (сохранившегося в архиве ФСБ), Берия был принят Ежовым в тот же вечер 22 августа. Вскоре после этого Берия на несколько дней вернулся в Грузию для сдачи дел и проведения пленума ЦК КП(б) Грузии, на котором должны были пройти выборы нового первого секретаря. Пленум состоялся 31 августа в Тбилиси. Во время пребывания в Грузии Берия вполне мог выбрать преданных ему людей, переговорив с В.Н. Меркуловым, Б.З. Кобуловым и другими. И действительно, в течение ближайших недель они объявились в Москве, претендуя на ключевые посты в центральном аппарате НКВД. В начале сентября Берия вернулся в Москву и приступил к работе в НКВД. 4 сентября во второй половине дня они с Ежовым совещались в его кабинете в НКВД и пробыли там до вечера.
Позднее, в личном письме Сталину, Ежов заметил, что был расстроен назначением Берии, усмотрев "элемент недоверия к себе" и приняв этот факт как "подготовку моего освобождения", справедливо полагая, что Берия "может занять пост наркома". Вскоре после назначения Берии, вероятно, в конце августа, Ежов собрал некоторых своих выдвиженцев у себя на даче и предупредил их, что скоро от них избавятся. Как он и предвидел, его ближайших соратников сняли с постов и арестовали, заменив их людьми Берии, прибывшими из Грузии. Легкость, с которой это было проделано, указывала на полное бессилие Ежова. Но, подбадриваемый Фриновским, он не собирался сдаваться без боя.
По ряду свидетельств, после назначения Берии Ежов стал еще сильнее пьянствовать, появляясь на работе после трех-четырех часов дня. Тем не менее, он несколько раз попытался изолировать своего нового первого заместителя на уровне руководящего состава НКВД. Он планировал назначить главу НКВД Казахской ССР С.Ф. Реденса своим вторым заместителем - в качестве противовеса, но когда Реденс, имевший опыт работы с Берией в Закавказье, заявил, что "слишком поздно и что ничего путного из этого не выйдет", Ежов попытался ограничить влияние Берии, возродив коллегию НКВД. Эта затея тоже не имела шансов на успех. Компромат на Берию собирался с еще большим усердием, и по совету Фриновского Ежов передал подшивку Сталину, но толку и от этого не было. Берия получил широкие полномочия от Сталина и не желал ни с кем ими делиться; он укрепил свои позиции, введя порядок, согласно которому вся исходящая из НКВД документация считалась действительной только при наличии его подписи в дополнение к подписи Ежова. 29 сентября Берию назначили начальником ГУГБ, а Меркулова - его заместителем.
Фриновский вернулся в Москву 25 августа, сразу после назначения Берии, и был немедленно вызван в НКВД Ежовым; их беседа продолжалась больше часа. После своего ареста он показал: "Я Ежова вообще никогда в таком удрученном состоянии не видел. Он говорил: "Дело дрянь" - и сразу же перешел к вопросу о том, что Берия назначен в НКВД вопреки его желанию". 27 или 28 августа Фриновский встретился с Евдокимовым, который настоятельно советовал до приезда Берии позаботиться о недоделках, которые могли бы их дискредитировать. Он сказал Фриновскому: "Ты проверь - расстреляли ли Заковского и расстреляны ли все люди Ягоды, потому что по приезде Берия следствие по этим делам может быть восстановлено и эти дела повернутся против нас". Тогда Фриновский удостоверился, что группу чекистов, включая Заковского и Миронова, расстреляли 26–27 августа (на самом деле они были расстреляны 29 августа). Ежов, Фриновский и Евдокимов не зря беспокоились, что чекисты, арестованные по обвинению в заговоре, могут под нажимом Берии дать показания против окружения Ежова или даже против самого Ежова. Не напрасно торопились они привести приговоры в исполнение до конца августа, пока Берия был в Грузии.
Фриновскому не требовалось объяснений: Берия, очевидно, был назначен с прицелом на его дальнейшее выдвижение на пост наркома внутренних дел. Фриновский понимал, что грядет новая чистка. Он формально оставался заместителем Ежова до 8 сентября, а потом получил назначение на пост наркома ВМФ. Берия сразу же приступил к исполнению обязанностей в должности начальника первого управления (госбезопасности) НКВД. С этого момента документы НКВД стали оформляться за двойной подписью - его и Ежова. Одновременно Берия приступил к реорганизации центрального аппарата НКВД; предварительный план был рассмотрен на Политбюро 13 сентября, и в течение десяти дней новая структура была утверждена. Официально Берия вступил в должность начальника ГУГБ 29 сентября, но можно с уверенностью заключить, что с начала сентября, после ухода Фриновского, Берия стал полновластным хозяином в НКВД. Тут же последовали аресты и отставки высокопоставленных сотрудников НКВД: 13сентября были арестованы А.П. Радзивиловский и М.С. Алехин, 15 сентября начальник УНКВД по Московской области В.Е. Цесарский был с понижением переведен на должность начальника Управления Ухто-Ижемского ИТЛ, а 24 сентября был арестован бывший шеф НКВД БССР (с мая 1938 года Глава 3-го управления НКВД) Б.Д. Берман.
Можно только догадываться, почему был назначен именно Берия, а не кто-нибудь другой. Выбор Сталина, вероятно, был обусловлен тем фактором, что Берия находился под угрозой преследования со стороны Ежова. В 1938 году их былая дружба распалась, когда Ежов расследовал ряд сигналов, полученных в Москве относительно Берии. Сталин понял, что в этой ситуации Берия и Ежов стали противниками, что он мог назначить Берию преемником Ежова, не опасаясь совместной интриги с их стороны. Новый нарком внутренних дел должен был быть партийным функционером, членом Центрального Комитета с солидным опытом чекистской работы. Единственным претендентом с таким послужным списком, способным составить Берии конкуренцию, был М.Д. Багиров.
За несколько лет до этого Берии удалось произвести хорошее впечатление на Сталина, что подтверждает письмо Сталина, посланное Кагановичу в 1932 году. Берия "хороший организатор, деловой, способный работник", тогда как С.А. Мамулия, кандидатуру которого предлагал на пост первого секретаря ЦК КП(б) Грузинской ССР Орджоникидзе, - "не стоит левой ноги Берии". Сталин ценил Берию не только как секретаря-партийца, который к тому же принял активное участие в работе февральско-мартовского пленума 1937 года, он также знал его как человека жесткой чекистской закалки. В 1937–1938 годах, когда Берия еще возглавлял грузинский ЦК, он принимал личное участие в допросах и избиении заключенных. Но в планы Сталина не входило сразу назначить Берию наркомом внутренних дел, он задумал назначить его сначала первым заместителем, постепенно расчищая путь к устранению Ежова. Это было проявлением свойственного Сталину коварства - подкрадываться шаг за шагом, нагоняя страх на Ежова, заставляя его метаться и вынуждая его раскрывать слабые места.
Можно предположить, что Ежов все же дал ход компромату против Берии, попытавшись его дискредитировать как служившего в "муссаватистской контрразведке". По крайней мере, в начале октября 1938 года Сталин попросил Берию предоставить объяснение и документы, подтверждающие ложность подобных обвинений. Так как это обвинение следовало за Берией по пятам всю его жизнь, у него всегда наготове были соответствующие документы. Еще в начале 30-х Берия предусмотрительно снарядил в Баку Меркулова с просьбой изъять эти документы из архива и привезти ему. При этом Берия сказал, что враги распространяют о нем слухи и "могут изъять эти документы из архива и тогда ему нечем будет защищаться". С тех пор хранителем этих драгоценных папок являлся Меркулов. 7 октября 1938 года Берия вызвал к себе в кабинет Меркулова и сообщил, что "вновь поднимается вопрос о его службе в муссаватистской контрразведке и что он должен написать по этому поводу объяснение И.В. Сталину". Берия попросил принести документы, и они вместе составили объяснительную (Берия диктовал, а Меркулов записывал), затем Берия вместе с архивными папками уехал к Сталину. В результате, как пояснил на допросе в 1953 году сам Берия, обвинение против него "не нашло подтверждения". Но надо полагать, вся история заставила Берию изрядно понервничать и вывод он мог сделать один - Ежова следует убрать с дороги.
Летом 1938 года уже не было массовых арестов и преследований партийцев, таких как во второй половине 1937 года. После январского пленума ЦК ВКП(б) реп
рессии, проводимые НКВД против партработников, тщательно регламентировались Сталиным и находились под жестким контролем партийных органов. Летом и осенью 1938 года аресты партийных функционеров верхнего звена, конечно, продолжались, но всегда с санкции Сталина. Региональное партийное руководство с удовлетворением отметило "оздоровление" обстановки. В июне 3-й секретарь Ростовского обкома ВКП(б) М.А. Суслов на партийной конференции доложил, что положение в области за последние полгода улучшилось: "Практика огульного исключения из партии прекращена. Положен конец безнаказанности для разного рода клеветников. Постепенно рассеивается обстановка всеобщей подозрительности. Руководство обкома основательно и внимательно разбирало апелляции исключенных".