В Москве интересовались ходом лечения Ежова. Начальник Лечсанупра Кремля 25 августа сообщил Кагановичу о том, как обстоят дела. К тому времени Ежов с женой уже находились в Бад-Гаштейне и принимали предписанные Ноорденом радиоактивные ванны и уколы. Их навестил поверенный в делах СССР в Австрии Некунде - проведать и сообщить в Москву новости. Некунде писал, что ванны Ежову помогают: "Появился на редкость большой аппетит, соблюдает строгую диету, но по обыкновению чересчур много курит. Лишаевидные места на локтях и ногах почти совершенно исчезли". Бад-Гаштейн Ежов должен был оставить 25 августа и отправиться в клинику к Ноордену, а затем, вероятно, в Италию на "нахкур", - как писал Некунде, - и тут же с тревогой сообщал, что сам Ежов "начинает поговаривать об отъезде домой на работу". Для поездки в Италию требовались еще деньги, и Политбюро, вняв тревогам Некунде, 26 августа приняло решение: "Выдать т. Ежову Н.И. дополнительно 1000 рублей золотом для окончания лечения. Запретить т. Ежову выезд в СССР до окончания отпуска".
В общем, здоровье и работоспособность будущего "железного наркома" обошлось казне в кругленькую сумму. Милость Сталина и лечение в Вене еще аукнется Ежову. После ареста, на следствии его заставят "вспомнить", что там он, якобы, имел интимную связь с медсестрой, а когда врачу стало известно об этом, то он завербовал его самого в качестве "агента германской разведки". Кстати, почему германской? Ведь Австрия тогда еще не входила в состав Германии.
В начале октября Ежов вернулся в Москву, сообщив Сталину, который в это время отдыхал в Сочи, что снова приступает к работе. Он писал, что чувствует себя хорошо, однако соблюдает диету, и в течение последующих шести месяцев ему должны удалить аппендикс, чтобы улучшить работу пищеварительного тракта. По-видимому, и за границей он не оставлял вне своего внимания интересы органов госбезопасности. Так, он сообщил Сталину, что наблюдал за работой советских учреждений за границей и желает доложить об этом.
Вероятно, Сталин персонально опекал Ежова потому что выбрал его в качестве своего главного помощника в реализации планов по осуществлению генеральной чистки. Это стало ясным после убийства главы ленинградской партийной организации Сергея Кирова 1 декабря 1934 года. В соответствии с одной из версий этих событий, в тот же день утром, когда произошло убийство, Ежов был вызван к Сталину и провел в его кабинете достаточно долгое время. Однако в журнале регистрации посетителей кабинета Сталина Ежов в этот день вообще не упоминается. Лишь на следующий день, когда Сталин отбыл в Ленинград на специальном поезде, Ежов был среди тех, кто сопровождал его, а по прибытии в Ленинград он присутствовал при допросе Сталиным убийцы Кирова Николаева. Спустя два дня после убийства Политбюро одобрило чрезвычайное постановление, упрощающее процедуру вынесения обвинительного приговора и приведения его в исполнение для лиц, обвиняемых в терроризме. В последующие годы во время чисток этот закон от 1 декабря 1934 года применялся в широких масштабах.
Сталин поручил Ежову наблюдение за расследованием вместе с лидером комсомола А.В. Косаревым и заместителем Ягоды по вопросам госбезопасности Аграновым. Несмотря на отсутствие каких-либо фактов, Сталин приказал сфабриковать дело по обвинению в этом убийстве против Каменева, Зиновьева и других бывших участников партийной оппозиции. Однако руководство НКВД с недоверием отнеслось к такой версии событий и попыталось проигнорировать этот приказ Сталина. И тогда для Ежова пришло время сыграть свою роль. Фактически Сталин назначил его своим представителем в НКВД. Ягода не придал тогда этому значения, а после, уже будучи арестованным, дал показания, что после убийства Кирова "начинается систематическое и настойчивое вползание в дела НКВД Ежова". Не спрашивая Ягоду, он непосредственно связывался с отделами ГУГБ и "влезал сам во все дела". На совещании в НКВД в декабре 1936 Ежов подтвердил, что последние два года работал в очень тесном контакте с НКВД.
Вмешиваясь во все детали расследования, Ежов придал ему именно то направление, которое хотел Сталин, в своих подробных сообщениях он разоблачал врагов и шпионов. Ягода, действуя по собственному усмотрению, чинил препятствия; как Ежов объяснял позднее, НКВД смотрел в другую сторону и не хотел допускать его к материалам дела, пока не вмешался сам Сталин. Вождь партии стал угрожать Ягоде: "Смотрите, морду набьем…" Он приказал главе НКВД арестовать тех, на кого Ежов собрал материалы. Ягода исполнил это, но явно против своего желания.
В феврале Ежов доложил Сталину, что завершил подготовку материалов примерно на тысячу бывших ленинградских оппозиционеров, триста из них были арестованы, а остальные сосланы; кроме того, несколько тысяч так называемых "бывших" были высланы из города. В декабре 1934 убийца Кирова Николаев предстал перед судом и был расстрелян; в следующем месяце состоялся процесс по делу "московского центра" над Зиновьевым, Каменевым и другими, они получили от пяти до десяти лет за "идеологическое соучастие" в убийстве. С этого времени Ягода направлял Ежову все протоколы допросов главных оппозиционеров и заговорщиков.
Полномочия Ежова не ограничивались расследованием этих дел, постепенно он получил возможность контроля над всем НКВД. В памятной записке Сталину он обращал внимание на "недостатки в работе НКВД", критикуя деятельность последнего по работе с информаторами и агентурой. Методы вербовки агентуры "граничили с контрреволюцией": "При таких условиях вербовки иностранная разведка без труда может насадить свою агентуру, подсунув своих людей в виде агентов ЧК". НКВД, как писал Ежов, был гораздо меньше компетентен в расследовании, чем в розыске. В целом, квалификация сотрудников НКВД была недостаточной, и чистка, которую он лично провел в ленинградском управлении НКВД, по его мнению, "должна быть расширена". В Ленинграде Ежов проверил 2747 сотрудников НКВД и 3050 сотрудников милиции, в результате 298 сотрудников были сняты с работы, из них 21 заключен в лагерь, а по милиции сняты с работы 590 человек, из которых 7 осуждено. Ежов просил у Сталина разрешения на созыв совещания руководящего состава НКВД, где он намеревался выступить с резкой критикой этих недостатков. Сталин дал такое разрешение, и в феврале 1935 года Ежов созвал это совещание. 31 марта Политбюро приняло решение "передать на распоряжение Ежова" положения об НКВД и ГУГБ. Прокурор СССР Иван Акулов также предоставил ему свои критические замечания о методах работы НКВД.
В итоге с декабря 1934 года Ежов стал главным контролером деятельности НКВД. 1 февраля ЦК избрал Ежова секретарем. Он получил кабинет в здании ЦК на Старой площади, на пятом этаже, где также размещались Оргбюро и Секретариат. Для входа на пятый этаж требовались "спецпропуска" даже постоянным работникам ЦК. Это было очень значимое место, в брежневские времена на этом этаже, помимо самого Генсека, имели кабинеты только двое его самых влиятельных заместителей: секретари ЦК М.А. Суслов и А.П. Кириленко. В бытность заведующего Распредотдела Ежов имел на Старой площади кабинет поскромнее. Кроме Сталина и Ежова, в Секретариат с этого времени также входили Каганович, Жданов и Андреев (с 28 февраля). В качестве секретаря ЦК Ежов имел трех помощников: С.А. Рыжову, В.Е. Цесарского и И.И. Шапиро, причем двое последних работали с ним еще в отделе промышленности и остались с ним и в последующие годы. Более того, 27 февраля 1935 года Политбюро назначило его председателем Комиссии партийного контроля вместо Кагановича, который стал Наркомом путей сообщения. Теперь он стал фактическим верховным судьей партии, расследовавшим дела об идеологических отклонениях, нарушениях устава партии и должностных преступлениях и выносившим наказание. С 10 марта 1935 года он стал исполнять основные обязанности главы отдела руководящих партийных организаций (ОРПО). Этот отдел был организован сразу же после XVII съезда партии вместо Распредотдела и занимался подбором и расстановкой номенклатурных кадров. Первым руководителем ОРПО был Д.А. Булатов, однако, с его переходом на другую работу с декабря 1934 года этот пост освободился. С этого времени Ежов подписывал документы ОРПО, а теперь он был и официально назначен его главой. Руководство промышленным отделом перешло от него к Андрею Андрееву, который также был назначен вести заседания Оргбюро Ц.К. А на Ежова была возложена равная с Андреевым ответственность за подготовку повестки дня заседаний Оргбюро.
Как утверждает О.В. Хлевнюк, в результате всех этих перестановок в руководстве Каганович утратил свое положение второго человека после Сталина. Формально его сменил Андреев, но влияние последнего было сильно ограничено необходимостью разделять руководящие функции в Оргбюро с Ежовым, Каганович остался секретарем ЦК и членом Оргбюро. Роли и влияние Андреева и Ежова были в той или иной степени сбалансированы. Хотя Ежов не был (как и Андреев) членом Политбюро, он контролировал кадровую политику партии и руководил основными политическими кампаниями, принимал активное участие в работе Политбюро и получил от Сталина поручение контролировать НКВД и организовывать чистки. Стремительное продвижение Ежова в ЦК, о котором известно довольно мало, объясняется его устойчивым положением и исполнительностью, "огромным нюхом", а также сильной поддержкой со стороны Кагановича и Сталина.
Как указывают многие авторы, 13 мая 1935 года Политбюро на секретном заседании образовало специальную комиссию "по безопасности" во главе со Сталиным и его заместителем Ежовым и якобы целью комиссии была подготовка предстоящей ликвидации "врагов народа" или - массовых репрессий. Для этого началась подготовка "списка врагов" и тому подобные мероприятия. А кое-где даже приводится закавыченный текст этого, якобы имевшего место решения. Однако, как показала проверка протоколов Политбюро и других материалов в партийных архивах, - это фальсификация. В то же время, в январе 1935, согласно инструкции аппарата ЦК, региональные партийные организации начали составлять списки членов партии, ранее исключенных за принадлежность к "троцкистскому и троцкистско-зиновьевскому блоку". Как указывает Хлевнюк, последующие аресты производились именно на основании этих списков.
В действительности на заседании Политбюро от 13 мая 1935 года было одобрено подготовленное Ежовым письмо ЦК ко всем партийным организациям "О беспорядках в учете, выдаче и хранении партбилетов и о мероприятиях по упорядочению этого дела". В письме утверждалось, что партийные организации виновны "в грубейшем произволе в обращении с партийными билетами" и "совершенно недопустимом хаосе в учете коммунистов". В результате этого "враги партии и рабочего класса" получали доступ к партийным документам и "прикрывались ими в своей гнусной работе". В письме приводились конкретные примеры "вражеских действий", хищения и подделки партбилетов и т.п., и содержалось грозное предупреждение: "каждый утерянный и похищенный партбилет позволяет проникнуть в наши ряды заклятым врагам партии, шпионам, предателям рабочего класса". Письмо предписывало искоренить в кратчайшие сроки "организационную распущенность", проявления "ротозейства и благодушия" и "навести большевистский порядок в нашем собственном партийном доме". И не может быть и речи об открытии приема в партию, - говорилось в письме, - пока не будет наведен порядок. В письме был сформулирован ряд мер, которые партийные организации должны были осуществить в течение двух - трех месяцев, чтобы достичь большего контроля и дисциплины. Ответственность за наведение порядка на местах возлагалась на вторых секретарей партийных организаций и заведующих отделами руководящих партийных органов.
В своем докладе на декабрьском (1935) пленуме ЦК ВКП(б) Ежов пояснил, что это письмо было подготовлено по прямому указанию Сталина. Он сообщил, что в течение 1934 года ЦК принял ряд решений о недостатках в работе с партийными документами в некоторых партийных организациях. Под руководством Ежова ОРПО контролировал выполнение этих решений. Затем на заседании Оргбюро ЦК Сталин указал на факты "хаоса" и "произвола" в работе с партийными документами и потребовал наведения строгого порядка, а до тех пор обмен партбилетов и прием новых членов в партию проводиться не должны. Результатом такой постановки вопроса и стало письмо ЦК от 13 мая 1935 года.
На заседании Оргбюро ЦК 27 марта 1935 года Сталин пояснил, что он против приема новых членов, пока "хороших ребят иногда вычищают из партии, а мерзавцы в партии остаются, потому что они очень ловко изворачиваются". Сталин посчитал необходимым направить специальное письмо партийным организациям и поручил это Ежову, пояснив: "Завоевали мы власть, взяли ее в свои руки и не знаем, как с нею быть. Так и сяк переворачиваем, как обезьяна нюхала очки, и лижем, и все… Плохие мы наследники - вместо того, чтобы накапливать новый моральный капитал, мы его проживаем".
Таким образом, Ежов возглавил кампанию по проверке партийных документов с целью "разоблачения пролезших в партию чуждых людей". Она стала логическим продолжением партийной чистки, начатой в апреле 1933 года. Однако теперь, пользуясь своим многократно выросшем влиянием, Ежов смог привлечь органы НКВД непосредственно для проверки коммунистов. Из-под его пера вышел текст оригинального совместного циркуляра ЦК ВКП(б) и НКВД СССР, предписывающего силами чекистов с помощью агентурной и следственной работы проводить "разработку вызывающих сомнение членов ВКП(б)", а также проводить и аресты "выявленных шпионов, белогвардейцев, аферистов". Наверняка такое новаторство в организации партийной работы вызвало одобрение Сталина.
В начале 1935 года Зиновьев и другие были наказаны относительно мягко, но этим дело не кончилось. По рекомендации Сталина и консультируясь с ним, Ежов стал писать книгу о зиновьевцах под названием "От фракционности к открытой контрреволюции". 17 мая 1935 года он послал Сталину первую главу "Этапы борьбы зиновьевско-каменевской и троцкистской контрреволюционной группы против партии". Четыре следующие запланированные главы были еще не готовы. Он обратился к Сталину за указаниями, так как журнал "Большевик" намеревался опубликовать главу до того, как будет готова вся книга. Сталин дал свой комментарий, то же сделали Шкирятов и Ярославский, однако ни эта глава, ни сама книга так никогда и не были опубликованы.
Название книги указывало на то, что, по мнению автора, существовала прямая связь между внутрипартийной фракционностью Зиновьева, Каменева и тех, кто их поддерживал с середины 1920-х годов, с их причастностью к убийству Кирова: логическим развитием этого стал переход зиновьевцев от внутрипартийной оппозиции к открытой контрреволюции. Еще в 1925 году образовался "блок троцкистов и зиновьевцев", "объединивший в борьбе против партии все антипартийные группировки". Не имея никакой поддержки внутри партии, зиновьевцы повторно публично отреклись от своей позиции, обещав отказаться от фракционности, однако это был всего лишь обманный маневр с целью избежать уничтожения, и в конце 1927 года среди них преобладал "явно террористический" настрой по отношению к Сталину. Как писал Ежов, они уже тогда "пытались обезглавить революцию, уничтожив товарища Сталина".
Далее Ежов утверждал, что в конце 1920-х годов зиновьевцы возглавили подпольные центры в Москве и Ленинграде, рассчитывая извлечь пользу из самого факта появления правых уклонистов, чтобы вернуться к власти. Зиновьев и Каменев предприняли определенные шаги к "сговору с правыми" с целью организации "совместного выступления" и "об этом конкретном плане выступления против партии и договаривались по поручению своих групп Бухарин и Каменев" (их встреча состоялась в апреле 1928 года). В 1929 году эти планы были сорваны благодаря ликвидации правой оппозиции, однако в 1932 году активная деятельность зиновьевской организации возобновилась. Проводились переговоры с "левыми уклонистами" (Ломинадзе и другие) и с группой правых Рютина, а также поиски контактов с троцкистским подпольем. Зиновьев, Каменев и их сторонники возлагали надежды на империалистическую агрессию против Советского Союза, чтобы создалась благоприятная ситуация для свержения руководства партии. Когда стала ясна бесперспективность этих надежд, они всерьез рассматривали планы организации террора: "Как один из наиболее реальных способов вызвать затруднения - намечается террор в отношении виднейших руководителей партии и правительства". И в соответствии с этими планами "в составе "Ленинградского центра" образуется подпольная террористическая группа, поставившая своей целью организацию убийства товарищей Кирова и Сталина". Этой группе удалось достичь лишь первой из поставленных целей. Одновременно имело место тесное взаимодействие с троцкистами, которые также были информированы о террористической деятельности зиновьевской организации. Более того, троцкисты "также встали на путь организации террористических групп".
Сталин немного отредактировал этот текст, сделав несколько несущественных замечаний. Можно сделать вывод о том, что он был вполне согласен с написанным.