Как и в былые времена крупных сталинских процессов, еще до начала следствия были опубликованы партийные и государственные решения по делу Берии, которые предопределяли его виновность: постановление Июльского (1953 года) Пленума ЦК КПСС и Указ Президиума Верховного Совета СССР, в котором фактически содержались также и правовые оценки деяний бывшего министра внутренних дел СССР. Следствию и суду как бы предлагалось лишь облечь в «юридическую упаковку» партийные директивы.
Конечно, не все шло гладко во время следствия. Порой допускались и отступления от уголовно-процессуального законодательства. Взять хотя бы протокол обыска, проведенный с санкции Руденко 1 июля 1953 года в кремлевском кабинете Ордынцева, сотрудника секретариата заместителя председателя Совета Министров СССР. В протоколе отмечено, что изъяты документы, имеющие значение для дела. Причем все изъятое было передано почему-то заведующему особым сектором ЦК КПСС. Как выяснилось впоследствии, из сейфа Ордынцева «пропали» облигации государственного займа на весьма крупную сумму. Только после обращения Ордынцева к Руденко часть облигаций вернули.
В сентябре 1953 года Руденко представил в Президиум ЦК КПСС первый проект обвинительного заключения по делу Берии и его соучастников, хотя следствие еще шло полным ходом. Рассмотрение его состоялось 17 сентября. Присутствовали Хрущев, Маленков, Булганин, Молотов и некоторые другие члены Президиума. Докладывал Генеральный прокурор. Было внесено немало «ценных» поправок и предложений. Члены Президиума ЦК, как заправские следователи, формулировали обвинение, излагали доказательства. Было решено доработать обвинительное заключение в течение двух недель (срок явно нереальный, учитывая, что следствие еще и не приближалось к концу). Чтобы усилить партийное влияние при окончательной шлифовке этого процессуального документа, тогдашнему секретарю ЦК КПСС и члену Президиума М. А. Суслову поручили «принять участие как в подготовке Генеральным прокурором СССР проекта обвинительного заключения по делу Берии, так и проекта сообщения от Прокуратуры СССР». Одновременно Руденко должен был внести предложения о составе Специального присутствия Верховного суда СССР, другими словами, определить судей для предстоящего процесса. Президиум ЦК решил, что дело по обвинению Берии и его соучастников должно рассматриваться на закрытом судебном заседании без участия сторон, то есть на него не допускались ни обвинители, ни защитники. Таким образом, прения сторон по делу сразу же исключались.
Спустя два месяца следствие было завершено, материалы составили почти 40 томов. Одно только обвинительное заключение содержало более ста страниц.
10 декабря 1953 года Президиум ЦК КПСС на своем заседании утвердил проект обвинительного заключения, текст сообщения «В Прокуратуре СССР», а также проект указа Президиума Верховного Совета СССР об образовании и составе Специального присутствия Верховного суда СССР. Согласно обвинительному заключению, суду подлежали бывшие министры: внутренних дел СССР Л. П. Берия: государственной безопасности, а перед арестом — Государственного контроля СССР В. Н. Меркулов; внутренних дел Грузинской ССР В. Г. Деканозов; внутренних дел Украинской ССР П. Я. Мешик; первый заместитель министра внутренних дел СССР Б. З. Кобулов; начальник 3-го управления МВД ССР С. А. Гоглидзе и начальник следственной части по особо важным делам МВД СССР Л. Е. Влодзимирский.
Из восьми судей только двое имели отношение к органам юстиции: Е. Л. Зейдин, первый заместитель председателя Верховного суда СССР и Л. А. Громов, председатель Московского городского суда. Остальные являлись партийными или профсоюзными функционерами (Н. А. Михайлов — секретарь Московского обкома КПСС, Н. М. Шверник — председатель ВЦСПС, М. И. Кучава — председатель Грузинского республиканского Совета профсоюзов), военными (И. С. Конев, Маршал Советского Союза — председатель Специального присутствия; К. С. Москаленко, генерал армии), а также К. Ф. Лунев — первый заместитель министра внутренних дел СССР (ранее заведующий административным отделом Московского обкома партии).
Включение в состав Специального присутствия генерала армии Москаленко, который не только арестовывал Берию, но и принимал непосредственное участие в следственных действиях, являлось грубейшим нарушением уголовно-процессуального законодательства и ничем не было оправдано. Почему Руденко не протестовал против этого — не понятно. Ведь если бы поручили эту функцию любому иному военачальнику, ничего не изменилось бы в судьбе Берии и его соучастников. Видимо, это была прихоть Хрущева или какого-то другого партийного «босса». Более того, после суда Москаленко принимал участие в расстреле Берии. Чтобы один и тот же человек арестовывал, вел следствие, судил и приводил приговор в исполнение — такого не было даже во времена «скорострельной юстиции» при Сталине.
Все преданные суду лица обвинялись по статьям Уголовного Кодекса РСФСР, предусматривающим ответственность за государственные (контрреволюционные) преступления, в частности по ст. 58-1, п. «б» (измена Родине, совершенная военнослужащими), ст. 58-8 (совершение террористических актов), ст. 56-11 (организационная деятельность, направленная к подготовке или совершению контрреволюционных преступлений), а Берия, кроме того, еще и по ст. 58-13 (активные действия или активная борьба против рабочего класса и революционного движения, проявленные на ответственной или секретной (агентура) должности при царском строе или у контрреволюционных правительств) и по ч. 2 Указа Президиума Верховного Совета СССР от 4 января 1949 года «Об усилении уголовной ответственности за изнасилование». Все статьи Уголовного Кодекса о контрреволюционных преступлениях предусматривали высшую меру уголовного наказания — расстрел, с конфискацией имущества.
В сообщении «В Прокуратуре СССР» отмечалось: «Следствием установлено, что Берия, используя свое положение, сколотил враждебную Советскому государству изменническую группу заговорщиков, ставившую своей преступной целью использовать органы Министерства внутренних дел как в центре, так и на местах против Коммунистической партии и правительства СССР в интересах иностранного капитала, стремившуюся в своих вероломных замыслах поставить Министерство внутренних дел над партией и правительством для захвата власти и ликвидации советского рабоче-крестьянского строя в целях реставрации капитализма и восстановления господства буржуазии». Берии инкриминировалось то, что он продвигал на руководящие должности в Министерство внутренних дел участников заговорщической группы, подвергал преследованиям и гонениям честных работников МВД, саботировал, мешал проведению важнейших мероприятий партии и правительства, пытался оживить остатки буржуазно-националистических элементов в союзных республиках, посеять вражду и рознь между народами СССР, поддерживал преступные связи с иностранными разведками. Берия и его сообщники, по версии следствия, совершили ряд изменнических актов, пытаясь ослабить обороноспособность Советского Союза, а также террористических актов. Берия, как отмечалось в сообщении, обвинялся и в иных преступлениях, свидетельствующих о его глубоком моральном падении.
Суд состоялся в помещении штаба Московского военного округа, где содержался после ареста Берия. Судебное заседание открылось 18 и закончилось 23 декабря вынесением смертного приговора всем подсудимым. В день окончания суда приговор был приведен в исполнение в присутствии Генерального прокурора СССР Руденко.
После расследования дела Берии Роман Андреевич вплотную занялся и другими «одиозными» материалами. В тюрьмах тогда сидели Абакумов, Рюмин, Рапава — бывший нарком государственной безопасности Грузии, а затем министр юстиции этой республики (он был арестован при Сталине по делу о так называемой мингрельской националистической группы, после освобождения с апреля по июнь 1953 года занимал пост министра государственного контроля Грузинской ССР; вторично арестован в августе 1953 года), Рухадзе — бывший министр государственной безопасности Грузинской ССР, арестованный в 1952 году; Надария — телохранитель Берии и многие другие лица, так или иначе связанные с ним.
Наиболее известным было дело В. С. Абакумова. Оно возникло почти чем через год после окончания так называемого «ленинградского дела». 12 июня 1951 года министр государственной безопасности СССР генерал-полковник В. С. Абакумов был арестован, несмотря на то, что был одним из инициаторов этого процесса. Ему было тогда 42 года. Он происходил из рабочей среды, образование имел только в объеме городского училища, которое окончил в Москве. Однако благодаря исключительной энергии, трудолюбию, природной сметке и уму, сумел достичь высших воинских чинов. В 1939 году Абакумов был еще рядовым сотрудником НКВД СССР, оперуполномоченным в секретно-политическом отделе. Затем неожиданно круто выдвинулся, получив должность начальника Ростовского управления НКВД, а вслед за этим — заместителя наркома госбезопасности и начальника управления особых отделов РККА. Во время Великой Отечественной войны Абакумов занимал уже пост заместителя наркома обороны СССР и начальника Главного управления контрразведки, знаменитого «СМЕРШа».
По словам Генерального прокурора Союза Сафонова, указание на арест Абакумова и возбуждение в отношении него уголовного дела по ст. 58-1 п. «б» (измена Родине) он получил непосредственно от властей. Прямо из кабинета Генерального прокурора Абакумов был препровожден в Сокольническую тюрьму, так называемую «Матросскую тишину». Вслед за ним были арестованы и его ближайшие соратники: начальник следственной части по особо важным делам МГБ СССР Леонов, его заместители Лихачев, Комаров и Шварцман, начальник секретариата министерства Чернов и его заместитель Броверман.
Помимо них Сафонов в нарушение всех существующих законов арестовал и жену Абакумова — 30-летнюю Антонину Николаевну, которая вместе с грудным ребенком была помещена в Сретенскую тюрьму. Надо признать, что у Сафонова хватило смелости отказать в санкции на арест бывшей жены министра — Т. Смирновой. В Прокуратуре СССР ограничились лишь ее интенсивными допросами.
Так было создано дело о «враждебной деятельности» ответственных сотрудников МГБ СССР. Характерно, что толчком к возбуждению этого дела послужило письмо одного из сотрудников МГБ, старшего следователя подполковника Рюмина, который донес Сталину о «смазывании» руководством МГБ террористических вылазок врагов против руководителей партии и правительства. Доносчик, как водится, сразу же получил повышение — стал начальником следственной части, а затем и заместителем министра государственной безопасности (им был тогда Игнатьев).
В течение первых месяцев дело Абакумова расследовалось в Прокуратуре СССР. Им непосредственно занимался заместитель Генерального прокурора Мокичев, так как Сафонов после автомобильной аварии попал в больницу.
Рюмин, спровоцировавший возбуждение этого дела, всеми силами стремился к тому, чтобы забрать расследование его из органов прокуратуры. Хотя к следствию был привлечен очень узкий круг ответственных работников Прокуратуры СССР, Рюмин через свои каналы, получал подробную информацию о всех мероприятиях прокуратуры и, соответственно переработав ее, использовал в своих целях. Более того, от арестованного по ложному доносу прокурора отдела по надзору за следствием в органах госбезопасности Прокуратуры СССР Дорона он путем применения незаконных методов и истязаний добивался показаний даже в отношении Генерального прокурора и других руководящих работников органов прокуратуры. Впоследствии Дорон был освобожден.
В конце 1951 года на очередном докладе дела Абакумова у Сталина Рюмин выразил сомнение в том, что прокуратура сумеет «раскрутить» Абакумова. Сталин с его мотивировкой согласился. В феврале 1952 года это дело было передано для расследования в МГБ СССР. Арестованного Абакумова сразу же переместили из «Матросской тишины» в Бутырскую тюрьму, а затем в Лефортово. Одновременно с этим была арестована еще одна группа ответственных работников МГБ; а заодно с ними и несколько ведущих врачей Кремлевской больницы (Рюмин готовил тогда так называемое «дело врачей»).
Для арестованного Абакумова и его «сообщников» наступили самые тяжелые дни. Бывший руководитель Министерства госбезопасности на себе почувствовал, что значит попадать в руки чекистов. Начались бесконечные изощренные пытки и истязания обвиняемых. На Абакумова надели наручники, поместили в тесный карцер (обычную холодильную камеру) без окон, без притока свежего воздуха, где несколько суток держали на хлебе и воде, беспрерывно включали холодильную установку. Описывая эти зверства в письме на имя Берии и Маленкова, Абакумов просил их «избавить его от Рюмина и его друзей» и вновь передать дело в прокуратуру.
Рюмину не удалось полностью насладиться плодами своей победы над бывшим шефом. В конце 1952 года его отстранили от ведения следствия и вскоре вообще уволили из органов МГБ СССР, а сразу же после смерти Сталина, в марте 1953 года, он был арестован.
Однако и Абакумов не был выпущен из тюрьмы. Его дело все еще расследовалось, хотя и не столь интенсивно. Незадолго до судебного разбирательства оно, как когда-то и при Сталине, рассматривалось на Секретариате ЦК КПСС, где фактически предрешался приговор, утверждалась судебная коллегия. А. А. Волин, в то время председатель Верховного суда СССР, рассказывал авторам, что на заседании Секретариата он предлагал направить дело для производства дополнительного расследования, так как в нем многое было неясно. Однако с ним не согласились.
Суд над Абакумовым начался 14 декабря 1954 года в Доме офицеров Ленинградского военного округа (там же, где судили участников так называемого ленинградского дела). Председательствовал на заседании Военной коллегии Верховного суда Зейдин, а обвинение поддерживал Генеральный прокурор Союза ССР Р. А. Руденко. Абакумов виновным себя не признал, сказав, что его дело сфабриковано Берией, Кобуловым и Рюминым. Тем не менее Абакумов и некоторые его соучастники были приговорены к расстрелу. Приговор, как и в сталинские времена, привели в исполнение незамедлительно. Абакумову даже не дали возможности его обжаловать. Главного его изобличителя Рюмина Военная коллегия Верховного суда приговорила к расстрелу еще раньше, в июне 1954 года.
Спустя сорок лет Военная коллегия Верховного суда СССР по протесту заместителя Генерального прокурора СССР пересмотрела дело Абакумова и других и переквалифицировала их действия на статью 193-17 п. «б» УК РСФСР (злоупотребление властью и превышение власти при наличии особо отягчающих обстоятельств).
В сентябре 1955 года Генеральный прокурор поддерживал государственное обвинение еще по одному громкому делу. Суду Военной коллегии были преданы бывшие грузинские «друзья» Берии — Рапава, Рухадзе, Церетели, Савицкий, Кримян, Надария, Хазан и Парамонов. Процесс проходил в Тбилиси. Руденко требовал смертного приговора для семи подсудимых. Суд к этой мере наказания приговорил шестерых, Парамонова и Надария — соответственно к 25 и 10 годам исправительно-трудовых лагерей.
В апреле 1956 года открылось судебное заседание в Баку. Военная коллегия Верховного суда СССР слушала дело по обвинению «соратника» Берии — бывшего первого секретаря ЦК компартии Азербайджана и председателя Совета Министров республики М. Д. Багирова. Вместе с ним на скамье подсудимых оказались еще пятеро руководителей органов внутренних дел Дагестана, Армении и Азербайджана. Расследование проводила Главная военная прокуратура. Обвинение на процессе поддерживал Генеральный прокурор Руденко. «За нарушения социалистической законности», допущенные в годы массовых репрессий указанными лицами, Военная коллегия приговорила четверых виновных, в том числе Багирова, к расстрелу, а остальных — к 25 годам лишения свободы.