В этом же году нарком иностранных дел Г.П.Чичерин снова затронул вопрос о пополнении персонала шифровальщиков. 21 апреля и 8 мая 1925 года он обратился по этому вопросу в секретариат ЦК РКП(б): «Недостаточность персонала нашей шифрчасти становится уже государственной опасностью».
В конце 1925 года секретариат Коллегии НКИД начал функционировать на правах управления, секретно-шифровальная часть была переименована в секретно-шифровальный отдел, а три отделения, которые входили в его состав, переименованы в 1-й, 2-й и 3-й подотделы соответственно.
В сентябре 1926 года названия управлений Штаба РККА стали номерными. Военное Разведывательное Управление превратилось в IV Управление Штаба РККА. Шифровальное отделение было выведено из состава 2-го (агентурного) отдела и реорганизовано в 1-ю (шифровальную) часть IV Управления, начальником которой стал Вольдемар Янович Закис (1896-1938), а его помощником Эдуард Янович Озолин (1898-1938). Шифровальный отдел при РВС СССР был реорганизован в 2-й отдел Управления делами НКВМД и РВС СССР.
9 декабря 1927 года приказом ОГПУ 242/96 было утверждено Положение о специальных отделениях при Полномочных представительствах (далее ПП) ОГПУ. Эти отделения выполняли такие задачи:
организовывали секретное и шифровальное делопроизводство во всех учреждениях, расположенных на территории ПП ОГПУ как местного, так и союзного значения;
осуществляли контроль за порядком ведения и хранения мобилизационных и шифровальных материалов;
вели учёт лиц, которые ведали секретной перепиской в советских учреждениях;
создавали шифры и обеспечивали ими все учреждения, расположенные на территории полномочного представительства за исключением тех, которые использовали шифр, установленный Специальным отделом ОГПУ.
В 1927 году шифровальный отдел НКИД, состоявший из трёх подотделов, был реорганизован в секретно-шифровальный отдел в составе двух подотделов. На базе 3-го подотдела был образован секретный архив НКИД.
1 декабря 1929 года приказом ОГПУ 282 в составе ОГПУ, кроме Спецотдела, было образовано ещё Центральное шифровальное бюро (начальник В.М.Колосов, он же начальник 1-го отделения Спецотдела), ответственное за шифрованную связь.
Спецотдел в тот период состоял из таких подразделений:
1-е отделение наблюдение за сохранением режима секретности во всех партийных, государственных и общественных организациях, начальник В.М.Колосов;
2-е отделение создание шифров и кодов для ОГПУ, НКВМД и НКИД, радиоперехват, начальник Фёдор Григорьевич Тихомиров;
3-е отделение руководство шифровальной работой в системе ОГПУ, связь с заграничными резидентурами, а также руководство лагерями ОГПУ, начальник Фёдор Иванович Эйхманс, он же помощник начальника Спецотдела;
4-е отделение дешифровка перехваченных документов, начальник Александр Григорьевич Гусев (с сентября 1923 по январь 1938 года), он же помощник начальника Спецотдела;
5-е отделение криптографическое обслуживание военного ведомства, начальник Владимир Дмитриевич Цибизов;
техническое отделение, начальник Антон Дмитриевич Чурган;
лаборатория (некоторое время именовалась 7-м отделением) прикладная химия и графология, начальник Евгений Евгеньевич Гоппиус;
фотографическое отделение, начальник П.А. Алексеев.
Круг вопросов, которые изучались подразделениями, работавшими на лабораторию Гопиуса, был чрезвычайно широким: от изобретений всяческих приспособлений для радиошпионажа до исследований солнечной активности, земного магнетизма и проведения разных научных экспедиций. Здесь изучалось всё, что имело любой оттенок таинственности.
Контроль технических новшеств советской криптослужбы осуществлял заместитель начальника её оперативного отдела Ф.И. Эйхманс. Все специалисты-криптологи и радиотехники проходили по секретному внештатному расписанию. Общее количество личного состава Спецотдела составляло 189 человек.
Интересно, что начальник Спецотдела Г.И. Бокий предпринимал попытки по использованию для криптологической деятельности специалистов оккультных и мистических наук. Так, зимой 1924 года он привлёк к работе в Спецотделе учёного-мистика Александра Васильевича Барченко (1881-1938).
Основные научные интересы этого исследователя были сосредоточены в сфере изучения биоэлектрических явлений в жизни клетки, работе мозга и живом организме в целом. Свои лабораторные опыты А.В.Барченко совмещал с должностью эксперта Спецотдела по психологии и парапсихологии. В частности, им разрабатывалась методика выявления лиц, склонных к криптологической работе.
Учёный выступал и консультантом при обследовании всевозможных знахарей, шаманов, медиумов, гипнотизёров и других людей, утверждавших, что они общаются с призраками. С конца 1920-х годов Спецотдел активно использовал их в своей работе. Для проверки этих «экстрасенсов» одно из подразделений Спецотдела оборудовало «чёрную комнату» в здании ОГПУ по Фуркасовскому переулку, дом 1.
Исследования и методики А.В.Барченко применялись и в особо сложных случаях дешифровки вражеских сообщений в таких ситуациях проводились даже групповые сеансы «связи с духами».
Учёный привнёс в жизнь Г.И.Бокия метафизические теории и уговорил видного чекиста вступить в тайную оккультную организацию «Единое Трудовое Братство», изучавшую древнюю науку «Дюнхор», которая якобы превосходила современное знание, но принципы которой были утеряны со временем.
В состав «Единого Трудового Братства» вошли, кроме Г.И. Бокия, ещё следующие лица: член ЦК ВКП(б) И.М. Москвин, заместитель наркома иностранных дел Б.С. Стомоняков, работник Спецотдела Е.Е. Гоппиус, а также давние товарищи Глеба Ивановича по Горному институту инженеры Миронов и Кострыкин.
В конце 1925 года для передачи эзотерического знания наиболее «достойным» представителям «большевистской» партии А.В. Барченко при участии Г.И. Бокия организовал в «недрах» ОГПУ небольшой кружок по изучению «Дюнхор».
28 марта 1928 года на совещании у начальника 2-го отдела Управления делами НКВМД и РВС СССР было принято постановление об организации «военно-морской части по дешифровке в Центре, в Москве». Но дело продвигалось очень медленно.
10 января 1929 года состоялось новое совещание и было посвящено тому же вопросу, на котором кроме руководителей ОГПУ и Спецотдела, представителей штаба РККА и ВМФ были также работники морских штабов Балтийского и Чёрного морей, снова подтвердило необходимость организации соответствующей дешифровальной службы. Однако прошел ещё год, а «военно-морская часть по дешифровке» так и не была создана.
В конце февраля 1930 года Г.И. Бокий подготовил письмо К.Е. Ворошилову, в котором писал: «Специальный отдел при ОГПУ считает такой темп, взятый штабом РККА в разрешении вопроса об организации военно-морской части по дешифровке, слишком медленным. Желательно ускорить разрешение этого вопроса, т.е. в отношении дешифровальной службы РККА отстала от армий своих возможных противников, у которых это дело давно налажено».
И только в августе 1930 года был создан первый дешифровальное подразделение при штабе РККА. Находилось оно в оперативном подчинении Спецотдела при ОГПУ и фактически входило в его состав. По штату оно называлось 13-м сектором 7-го отдела Штаба РККА. Приказом РВС СССР от 5 августа 1930 года было утверждено «Положение о 7-ом отделе Штаба РККА».
В одном из пунктов этого Положения было записано, что на отдел возлагались вопросы организации дешифровальной работы, руководства и контроля за ней. «Начальник 7-го отдела в специальном отношении подчиняется начальнику Специального отдела при ОГПУ». Начальником военно-морского дешифрувального сектора было решено назначить помощника начальника Спецотдела при ОГПУ Павла Хрисанфовича Харкевича (1896-?).
Развитие военной дешифровальной службы продвигалось быстрыми темпами. Менее чем через год 13-й дешифровальный сектор был реорганизован в 5-й отдел 4-го управления штаба РККА, но как и раньше остался в оперативном подчинении Спецотдела при ОГПУ. Все работники отдела имели хорошую языковую подготовку и зарекомендовали себя способными аналитиками. Ведущими специалистами в дешифровке военных шифров того времени были Борис Владимирович Звонарёв (1899-1944), Карл Густавович Тракман (1887-1938), Павел Матвеевич Шунгский (1893-?) и др.
В области подготовки и обучения кадров Спецотдел ОГПУ сотрудничал со специальной дешифровально-разведывательной службой (далее ДРС) ГШ РККА. 15 ноября 1929 года были открыты «Курсы совершенствования командного состава РККА», на которых готовились офицерские кадры шифровальной службы. Тогда же в Херсоне в режиме строжайшей секретности был организован отдел по подготовке офицеров шифровального дела. Именно выпускники херсонского отдела впоследствии принимали участие в разработке малогабаритной дисковой кодирующей машины К-37 «Кристалл», осуществившей настоящую революцию в шифровальном деле.
В январе 1931 года были созданы объёдиненные дешифровальные трёхмесячные курсы по подготовке криптологов дипломатического и военного направлений с ежегодным выпуском 25 человек; а в 1932 году при ДРС Центральные курсы по подготовке дешифровальщиков. Начальником курсов был назначен П.Х. Харкевич, а преподавателями И.А. Зыбин, И.М. Ямченко, Б.А. Аронский, Кильдишев. В 1934 году начальником этих курсов был назначен опытный криптолог Сергей Григорьевич Андреев, который работал в Спецотделе с 1921 года.
Эти курсы затем вошли в состав спецотделения Разведывательных курсов усовершенствования командного состава (РКУКС). С 1 сентября 1939 года на этих курсах началась подготовка военных криптологов. Два выпуска 1939 и 1940 годов в количестве 107 человек были направлены на укомплектование 10-го отдела РУ ГШ и отделений при военных округах.
Однако потребность в подготовке специалистов в должной мере не удовлетворялась, так как различные краткосрочные курсы не могли полностью обеспечить государство криптологическими кадрами как в количественном, так и качественном отношении.
В марте 1930 года начальником 1-й (шифровальной) части IV (Разведывательного) Управления Штаба РККА был назначен Э.Я.Озолин, а дешифровальный сектор 8-го отдела Штаба РККА был переведён состав в 5-го отделения Спецотдела при ОГПУ для обеспечения совместной работы над шифроперепиской иностранных государств.
В сентябре 1930 года 2-й отдел Управления делами НКВМД был реорганизован в 7-й отдел Штаба РККА, а уже 13 октября 1930 года в 8-й отдел Штаба РККА. В штабах военных округов и флотов шифрорганы назывались 7-ми отделами, которые в феврале 1931 года были переименованы в военных округах в 8-е отделы, а на флотах 10-е отделы.
В марте 1931 года в составе IV Управления (с 22 ноября 1934 года 5-го Управления) Штаба РККА был создан 5-й (дешифровальный) отдел (начальник П.Х.Харкевич). Военно-дешифровальный сектор 5-го отделения Спецотдела при ОГПУ был переведён в состав 5-го отдела IV управления Штаба РККА.
В связи с увеличением объёма и повышением значения дешифровальной работы в 1932-33 годах были созданы дешифровальные группы при ПП ОГПУ в Киеве, Тбилиси, Хабаровске, Ташкенте и Ленинграде, а затем Чите и Владивостоке. Позже эти группы были преобразованы в дешифровальные отделения.
В 1931-32 годах криптоотделы были созданы уже во всех военных округах, а к середине 1930-х годов численность криптослужб СССР в центре и на местах достигла около 500 человек, что полностью отвечало потребностям того времени. Сложилась достаточно эффективная система криптослужб, которые дешифровывали до 30% всей перехваченной информации, что было прекрасным показателем для того времени.
В 1932 году было образовано дешифровальное отделение в Особой Краснознамённой Дальневосточной Армии, а в 1935-36 годах в Забайкальском, Среднеазиатском и Киевском военных округах. Эти отделения, равно как и в центре, находились в оперативном подчинении ОГПУ.
К началу 1930-х годов техническое отделение Оперативного отдела Секретно-оперативного управления ОГПУ должно было организовывать и обслуживать отделы ОГПУ телеграфной связью, телефонной связью высокой частоты, радиосвязью, а также обеспечивать контроль телефонной сети по запросам отделов ОГПУ. Необходимо было создать надежную сеть оперативной связи ОГПУ с местными органами и надежную зарубежную связь.
Положительные результаты использования радиосвязи для оперативных целей остро поставили перед ОГПУ вопрос о максимально широком применении радиосвязи во всех видах оперативно-чекистской деятельности и изучении радиодела сотрудниками органов.
С этой целью 23 апреля 1930 года были открыты для подготовки старших радиотелеграфистов и старших электромехаников для обслуживания имеющихся в погранохране и высших ОГПУ радиостанций радиотелеграфные школы в Новосибирске и Ташкенте.
В приказе ОГПУ 186/90 от 8 мая 1930 года был отмечен быстрый рост радиосвязи и положительные результаты использования ее для оперативных целей органами, пограничной охраной и войсками ОГПУ. Было предложено максимально широкое применение радиосвязи во всех видах оперативно-чекистской деятельности.
В 1933 году шифровальщики Спецотдела при ОГПУ работали в большой комнате на 4-м этаже обширного здания бывшей страховой компании на улице Лубянка в Москве. А дешифровальщики занимали верхний этаж бывшего здания НКИД на углу улиц Лубянка и Кузнецкий мост. Тот факт, что нижние этажи здания посещались частными лицами и членами дипломатического корпуса, использовался для маскировки.