6 июня 1921 г. председатель ВЧК провел совещание в Киеве с участием руководящих работников Красной Армии, П.Е. Дыбенко и др., члена Коллегии ВЧК В.Н. Манцева, начальника укрепленного района Одессы. Было установлено, что учреждения Морского ведомства во многих случаях были притонами белогвардейцев. По вине его руководителей в Одессе произошло в порту две аварии: английский пароход "Камилла Джильберт" с грузом с 8 тыс. тонн угля был посажен на мель, а тральщик "Бессарабец" наскочил на давно затонувшую подводную лодку. "Обе аварии, - отметил Дзержинский, - результат преступного бездействия и разгильдяйства чинов Морведа в течение долгого времени до катастрофы". Поэтому Дзержинский предложит создать специальную структуру для наблюдения за Морским ведомством. В последующем, 26 ноября 1921 г. он отдал распоряжение о создании в Особом отделе ВЧК морской части, "иначе флот всегда будет вне нашего ока".
14 сентября 1918 г. Дзержинский подписал "Положение ВЧК о губернских и уездных чрезвычайных комиссиях" и предложил немедленно приступить к организации губернских ЧК, которые должны разделяются на четыре главных отдела: 1) отдел но борьбе с контрреволюцией, 2) отдел по борьбе со спекуляцией, 3) отдел по борьбе с преступлением по должности и 4) отдел иногородний; в менее важных губернских городах отдел по борьбе с контрреволюцией и отдел по борьбе с преступлением по должности могут быть совмещены в один отдел. ГубЧК и УЧК могут назначать в отдельные пункты комиссаров. В качестве вспомогательных отделов при губЧК создаются хозяйственный отдел и комендатура. Дзержинский подчеркнул, что "только при этой организации чрезвычайная комиссия по борьбе с контрреволюцией, спекуляцией и преступлением по должности выполняет те задачи, которые на нее возложены".
Немало времени Дзержинский уделял работе особых отделов, проводя в жизнь необходимость централизации чекистского аппарата. После 5 июля 1921 г. он писал Менжинскому: "Неподчинение Особому Отделу ЮгоЗапу фронта Особ. Отд. Черноморского и Азовского морей считаю неправильным. При неподчинении Особ. Отд. Юго-Зап. фронта - Морск. Особ. Отд. он обязательно выродится. При отсутствии фактического контроля при неподчиненности Ос. Отд. Юго. Зап. фронта конфликты Морского Ос. Отд. с 00 13 и 14 армиями, а также с губчека неизбежны. Разделить борьбу за шпионаж на морскую и сухопутную - бессмыслица, а посему предлагаю выработать проект предложения о соподчиненности Морского Особ. Отд. Черного и Азовского морей в своей деятельности от грузинской границы до Таганрога Особ. Отдела Кавказского фронта, а от Таганрога до Днестра - Особ. Отд. от Кавказского фронта Юго-Зап. фронта и командованию морским силами в духе аналогичном взаимоотношениям 00 ВЧК и командованию отдельным фронтом".
25 декабря 1921 г. Дзержинский снова писал Манцеву о важности не столько реорганизации, сколько упразднения особых отделов, считая, что особое существование ЧК и Особого отдела при отсутствии внешних фронтов - "доведет до драки и упадка. По-моему, в конечном счете, Ос. от. не должно быть. Персональная уния на верху не решает вопроса…Ужасно туго идет объединение, товарищи все друг друга "лучшие" особотделисты и вечекисты. А если объединения не произойдет, упразднят нас быстрее, чем это нужно. Сейчас положение таково, что какой-нибудь инцидент, даже мелкий, может вызвать крупные последствия. Каждый "обиженный" станет "обличителем". Но черт с этим. Пишу это не для нытья, нам нужно сейчас напрячь силы для перестройки, для избежания справедливых нареканий, быть на чеку. Злюсь на себя, что в связи с некоторыми перипетиями сам я расхлябался и несколько нервничаю". Органы ВЧК на местах, по мнению председателя ВЧК, должны быть едины, их базой является местная власть, и только там, где есть особые политические соображения, не следует передавать всей власти местным советским органам, а можно оставлять особые отделы для свободы действий центральной власти. Но представителем центральной власти по линии ВЧК должен быть ее представитель, он же начальник всех ЧК. - "Теперь это нетрудно было бы сделать вхождением Фрунзе в Совнарком". И Дзержинский предложил следующую схему построения чекистского аппарата: "Цупчерзком - единый и единственный орган ВЧК на Украине, Ос. от. не пщ Цупчр., а Цупчрезкома (как и у нас ни при ВЧК, а просто ВЧК). Никаких окружных Ос. от. (Какая их база? Окрвоенком?). Если нужно, при окрвоенкоматах могут быть уполномоченные нач. Цупчрезкома с правами, определяемыми не Конституцией, а Вашими полномочиями. Каждая губчека имеет там, где нужно, свой Ос. от. На случай военных действий и необходимости образовать армейские Ос. от. (подвижные, а не территориальные, приспособленными для войны, а не мира) должен быть мобилизационный план, уже сейчас составляемый.
Несмотря на эти мои взгляды, я приказ Ваш подпишу, ибо моя схема должна быть тенденцией, провести ее сразу трудно при не определившемся еще достаточно военном положении запада Украины и из-за персональных соображений. Ваши соображения.
В 1921 г. была улучшена организационная структура органов ВЧК на транспорте. 3 марта из подчинения войск ВЧК выведены железнодорожная и водная милиция, 27 июня, в соответствии с административным делением речного и морского транспорта, реорганизованы ТЧК. В первую очередь были созданы водные отделы при Петроградской, Южной, Кавказской, Сибирской ОКТЧК и ЮгоЗападной ДТЧК. Выступая на совещании представителей ВЧК, Центрального Комитета транспорта (ЦекТрана) и НКПС 17 мая с докладом о реорганизации ТЧК и их роли на транспорте, Дзержинский отметил, что принципы организационного строения ТЧК и транспорта должны совпадать, и главная задача ТЧК помогать НКПС, а борьба с контрреволюцией не может быть специализированной, ибо она "едина и ее нельзя подразделять на железнодорожную и гражданскую…"
Важной мерой явилась реорганизация Экономического управления, связанная со значительным повышением роли органов безопасности в защите важнейших экономических интересов государства и общества, основного экономического потенциала Советской России. Рассуждая о цели реорганизации ЭКУ ВЧК, 24 марта 1921 г. Дзержинский в письме Ихновскому отметил, что он напрасно нападает на построение ВЧК - "оно ни при чем. Наш аппарат - один из самых экономных и производительных и может быть лучше - это верно". Главная причина того, что "наше Экон. упр. хиреет, потому что нет в партии, в главках сознания его важности, с одной стороны, а с другой, потому что мы Эк. управлению поставили слишком широкие задачи. Мы слишком разбросались во все стороны. Экон. упр. нужно сосредоточиться на ударных группах. Этими, полагаю, должно себе поставить кроме топлива, НКВнешторг. Обсудите это у себя и с Ягодой (чл. кол. НКВТ). Надо составить план кампании, привлечь людей, привлечь внимание партии и бить в эту точку, не отвлекаясь до тех пор, пока не достигните результатов, т. е. пока НКВТ (не будет) реорганизован, сокращен в штатах, сменой в личном составе и т. д.
Достигнув этой задачи, надо перейти к другой. Третья ударная группа - это транспорт. Надо ТО ВЧК осознать свою основную задачу. Бороться за налаженность НКПС, который нуждается в лечении и поддержке ТО ВЧК не сознает этой задачи полностью. Поговорите с Благонравовым".
10 июля 1921 г. Дзержинский сделал ряд принципиальных замечаний к проекту положения ЭКУ, в частности, указав, что ЭКУ ВЧК должно быть органом содействия всем наркоматам и учреждениям, предложив исключить восьмой пункт проекта, как неправильный. Авторы проекта подчеркивали в нем, что ЭКУ является единственным органом борьбы с преступностью в экономике. Это противоречило идее централизации и поставило бы ЭКУ над другими управлениями и отделами ВЧК. Но особенно Дзержинский возражал против пункта 13, в котором говорилось, что "по экономическим вопросам, возникающим в ВЧК или поступающим в ВЧК, Экономическое управление является единственным представителем в высших органах республики". Он расценил это как нежелание руководства ЭКУ полностью подчиняться руководству ВЧК: "Что это за бундовская монополия на "единственное представительство"? Эк. Управлению не хочется быть подчиненным полностью ВЧК. Вот что сквозит из целого ряда пунктов". Замечания Дзержинского были учтены при окончательном редактировании положения об ЭКУ ВЧК. В принятом положении говорилось, что основную борьбу с преступностью в экономике ведет ЭКУ ВЧК, но в этой борьбе участвуют и другие подразделения и службы ВЧК.
В процессе реорганизации ЭКУ ВЧК во всей его структуре приоритет был отдан обеспечению оперативными средствами безопасности оборонного комплекса, транспорта, средств связи, объектов жизнеобеспечения городов, всех промышленных центров и тех объектов, которые имели стратегическое значение и могли представлять особый интерес для спецслужб и диверсантов противника. Аппарат не только ЭКУ, но и других оперативных управлений и отделов получил возможность ведения легальной, агентурной и технической разведок.
В 1921 г. Дзержинский отдал ряд распоряжений об упорядочении взаимоотношений органов ВЧК с местными органами власти и центром. 14 апреля он довел до сведения Дальбюро ЦК РКП(б) о том, что "согласно постановлению ЦК РКП от 14 апреля 1921 г. представитель ВЧК в ДВР в оперативном, административном и организационном отношении подчиняется полномочному представителю ВЧК по Сибири тов. Павлуновскому. Представитель ВЧК в ДВР является помощником тов. Павлуновского по ДВР". А 21 апреля просил Благонравова обратить внимание Манцева на отношение с Украинской ЧК: "Украина имеет своего наркоминдела т. Раковского, с этим надо считаться".
Для ликвидации параллелизма в ряде регионов страны произошло объединение особых отделов и губЧК. 12 июля 1921 г. Дзержинский утвердил "Положение об уездных политбюро", которые должны были работать под руководством ВЧК, исполняя ее приказания, но в то же время являться отделом уездного исполкома; начальник политического бюро имел в своем распоряжении сеть осведомителей, агентуру, подразделение войск ВЧК..
После Гражданской войны были несколько увеличены штаты органов и войск безопасности. Так, численность центрального аппарата ВЧК с января по сентябрь 1921 г. выросла в 1,6 раза - с 1648 до 2645 человек. В центральный аппарат ВЧК входили три управления и два отдела: Административно-организационное управление для осуществления контроля за работой органов ВЧК и инструктирования подчиненных ему подразделений; Экономическое управление для борьбы с "экономическим шпионажем, вредительством и диверсиями в народном хозяйстве"; Секретно-оперативное управление (впоследствии получивший название "Секретно-политический отдел") для координации деятельности оперативных подразделений, ведения борьбы с "антисоветскими партиями, политическими группами и организациями" и должностными преступлениями, а также для наблюдения за интеллигенцией и духовенством (в его состав вошли Иностранный, Информационный, Оперативный, Особый и Секретный отделы); Особый отдел - для борьбы со шпионажем и контрреволюционными преступлениями, осуществления контроля за личным составом Красной Армии и Красного Флота; Транспортный отдел - для борьбы с "враждебными элементами" на железнодорожном и водном транспорте и надзора за его деятельностью. Эта сфера интересов советских органов безопасности впоследствии остались неизменными (менялись лишь названия) и находили свое оформление в том или ином структурном подразделении центрального и местных аппаратов органов безопасности (отделение, отдел, управление).
Наряду с этим была оказана помощь тем губЧК, которые работали в особо трудных условиях. Так, по распоряжению Дзержинского были усилены Тамбовская и Гомельская губЧК.
Реорганизация губЧК позволила несколько сократить численность их аппарата, упорядочить работу отделов и служб. К ноябрю 1921 г. губЧК, как правило, имели в своем составе секретно-оперативную часть (оперативное и особое отделения, регистрационно-статистическое отделение, следственный аппарат), административно-организационную часть(канцелярию, хозяйственное отделение, секретариат), отделение по борьбе с политическим бандитизмом, экономическое отделение, один-два батальона войск ВЧК.
Одновременно с созданием чекистского аппарата и совершенствованием организационной структуры в ряде регионов началось его сокращение. "Первой ласточкой" было решение Малого СНК от 10 марта 1921 г., которое рекомендовало ВЧК "сократить число обслуживающих (курьеров, дворников, судомоек и т. п.) различные учреждения ВЧК не менее чем на 25 %"; ВЧК было предложено "совместно с РКИ в месячный срок выяснить возможность дальнейшего сокращения числа сотрудников", а вспомогательные учреждения ВЧК: аптеки, амбулатории, клубы и др. - передать в соответствующие учреждения.. 9 июня 1921 г. Дзержинский писал Уншлихту: "Сейчас важнейшей задачей поставлено фактическое сокращение штатов. Необходимо и нам произвести возможное сокращение. Полагал бы, что для [этого следует] создать боевую комиссию. Просил бы для этой работы привлечь т. Ягоду, а также и Беленького, который указывал мне часто, что у нас много лишних ртов. Думаю, что комиссии (или отдельным лицам) надо дать задание на разработку общего плана сокращения числа сотрудников и практических ежедневных предложений - того то и того уволить, его работу возложить на того-то, такую-то работу вовсе прекратить.
Было бы самое лучшее, если бы можно было найти лицо одно, которому поручить всю работу (предложения, решение осталось бы за Президиумом). Оно привлекло бы всех заинтересованных и имеющих что-либо сказать". (Не пошел ли бы Реденс?".
Но масштабно сокращение началось с реформой ВЧК в конце 1921 г. Хотя отдельные решения правительством были приняты ранее. Так, 19 октября 1921 г. при выработке программы сокращения Красной Армии, как одну из мер, СТО постановил: "войска пограничной охраны расформировать, предоставив ВЧК использовать личный состав и имущество этих войск для укомплектования прочих войск ВЧК с передачей излишков Военному ведомству".
Характеризуя чекистский аппарат 1921 г., Ф.Э. Дзержинский отмечал: "Наш аппарат один из самых экономных и производительных", "У нас аппарат сильный и в общем дисциплинированный и крепко связанный от центра до мест". Но иные исторические условия поставили новые задачи и потребовали коренной перестройки органов безопасности. Стало ясно, что полумерами здесь не обойтись. Поэтому была провозглашена реформа ВЧК.
В период ее подготовки от Л.Д.Троцкого поступило предложение о сокращении войск ВЧК до 20 тыс. человек. Считая это предложение абсолютно неприемлемым, Дзержинский 12 января 1922 г. телеграфирует из Сибири в Политбюро ЦК РКП(б), Уншлихту и Троцкому с просьбой приостановить решение вопроса до его возвращения. - "Такое предложение, подрывающее организацию внутренней безопасности Республики, вносится в СТО без согласования со мной, как наркомвнуделом и пред. ВЧК".
Выполняя решение IX Всероссийского съезда Советов, ВЦИК 6 февраля 1922 г. принял постановление "Об упразднении Всероссийской чрезвычайной комиссии и о правилах производства обысков, высылки и арестов". В нем говорилось, что для проведения в жизнь задач по обеспечению безопасности страны необходимо "образовать при НКВД РСФСР Госполитуправление под личным председательством наркома НКВД или назначенного СНК его заместителя, а на местах политотделы: в автономных республиках и областях при ЦИК и в губерниях при губисполкомах". В непосредственное подчинение ГПУ были переданы войска ВЧК. Структура ГПУ в основном не отличалась от структуры упраздненной ВЧК.
1 марта 1922 г. войска ВЧК преобразованы в войска ГПУ, в составе которых создано управление войсками с подчинением ему внутренних, конвойных и пограничных войск. На 10 апреля 1922 г. численность войск ГПУ составила 130 тыс. человек, из них 455 высшего и 13 050 среднего командного состава. Ввиду сокращения войск ГПУ, с 1 мая 1922 г. с них были сняты: охрана железнодорожных и технических сооружений, охрана и сопровождение грузов, товарных и пассажирских поездов. Несмотря на значительное сокращение войск в условиях борьбы с бандитскими формированиями было решено создать особые части войск ГПУ.