Ось що розповів письменник Лев Разгон, який був зятем Бокія, а в 1930-і роки – співробітником Спецвідділу: «Бокій підбирав людей дуже різних і дивних. Як він підбирав криптографів? Адже це здатність, що дана від Бога. Він спеціально шукав таких людей. Пам'ятаю старого співробітника Охоронки статського радника (у чині полковника), що ще в Петербурзі, сидячи на Шпалерній, розшифрував таємне листування Леніна. У відділі працював і винахідник-хімік Євгеній Гоппіус. У ті часи найважчим у шифрувальній справі вважалося знищення шифрувальних книг. Це були товсті фоліанти, і потрібно було зробити так, щоб у випадку провалу або інших непередбачених обставин подібні документи не дісталися ворогу. Наприклад, морські шифрувальні книги мали свинцеве плетіння, і в момент небезпеки військовий радист повинен був кинути їх за борт. Але що було робити тим, хто знаходився вдалині від океану та не міг оперативно знищити небезпечний документ? Гоппіус же придумав спеціальний папір, і треба було тільки піднести до нього у відповідальний момент палаючу цигарку, як товста шифрувальна книга перетворювалася через секунду в купку попелу».
До служби у Спецвідділі у першу чергу залучались колишні «царські» криптологи. Так, у 1919 році перекладачем-дешифрувальником Особливого відділу ВНК був призначений відомий нам Володимир Іванович Крівош, а його син Роман – секретарем бюро з видачі перепусток у прикордонну зону Особливого відділу Московської НК. У цей час Володимир Іванович додав до свого прізвища слово «Неманіч» (скорочено – нема нічого), мабуть, підкреслючи цим своє матеріальне становище порівняно до царського часу. Тепер він мав прізвище – Крівош-Неманіч.
У 1920 році він разом із сином Романом був арештований ВНК за підозрою у організації незаконного перетинання кордону. Однак у тому же році Роман був звільнений за амністією, а Володимир Іванович – у 1922 році та прийнятий на службу у Спецвідділ у якості експерта. Цікаво, що його син Роман з 1 травня 1921 року вже працював перекладачем-дешифрувальником Спецвідділу.
У 1923 році Крівош-Неманіч був арештований за підозрою у шпигунській діяльності та висланий на 10 років у Соловецький концтабір. У 1928 році він вийшов на свободу та знову став працювати експертом у Спецвідділі. У 1935 році Крівош-Неманіч був звільнений на пенсію, а у 1937 році був арештований його син Роман, співробітник Спецвідділу ГУДБ НКВС.
Завдяки своїм високим професійним здібностям Роман до концтаборів висланий не був і знаходився у Бутирській в'язниці, де успішно працював криптологом. З початком Вітчизняної війни у 1941 році Роман був звільнений та разом з батьком мешкав у евакуації в Уфі. Роман Крівош продовжував свою службу як фахівець-криптограф Спецвідділу НКВС і у 1942 році був нагороджений медаллю «За трудову відмінність». Його батько Володимир Іванович Крівош-Неманіч помер 4 серпня 1942 року в Уфі.
Штатним співробітником Спецвідділу став і талановитий криптолог «охоронки» Іван Зибін. Ще довгі роки він успішно працював у криптослужбі, допомагаючи створювати вже радянську школу криптологів. Перед молодими співробітниками він не боявся розповісти, що у свій час дешифрував деякі листи Леніна! Утім, справа ця була не дуже складною… Подальша його доля на даний час залишається невідомою.
Робота Спецвідділу розпочалася з детального вивчення спадку, отриманого з архівів спеціальної служби дореволюційній Росії. Це були шифри, їх детальний опис, документи з дешифрування, матеріали шифроперехвату. Серед цих документів, зокрема були матеріали з дешифрування шифрів Туреччини, Персії, Японії, інших держав, а також копії і оригінали шифрів США, Німеччини, Японії, Китаю, Болгарії, навчальні посібники тощо.
Співробітники відділу ретельно вивчали ці матеріали, усвідомлюючи важливість своєї роботи. Велику роль в цей і подальший періоди зіграли знання і досвід Зибіна, Крівоша-Неманіча та інших «царських» криптологів. При їх активній участі при Спецвідділі були організовані 6-місячні курси, на яких вивчалися основи криптографії, вирішувалися завдання з дешифрування. На курси набирали людей здібних і грамотних. Перший випуск курсів складався з 14 осіб, п'ятеро з яких пришли на роботу в дешифувальне відділення відділу, останні – в інші відділення.
Необхідною умовою успішної роботи Спецвідділу була наявність матеріалів шифроперехвату. У способах їх отримання зберігалися традиції дореволюційних служб. Окрім зняття копій з шифровок іноземних держав, що проходили через Центральний телеграф або доставлялися дипломатичною поштою, чим займався відділ Політконтроля, було посилено перехоплення шифротелеграм, що передавалися по радіоканалах. З цією метою були задіяні військові радіостанції, надані в розпорядження Спецвідділу радіомовні станції, зокрема радіостанція Комінтерну. Однак недосконалість радіоприймальної апаратури, а також сильна зношеність не могли забезпечити високої достовірності текстів перехоплених шифротелеграм.
Таким чином до труднощів перших років роботи Спецвідділу, пов'язаних із невисокою загальною підготовленістю та нечисленністю особового складу, додавалися труднощі, пов'язані з недоліком і низькою якістю матеріалів для дешифрування. Перед керівництвом Спецвідділу постали завдання організації та налагодження роботи всіх ланок спеціальної служби в країні, включаючи здобуття шифроматеріалів і технічне оснащення радіостанцій. У зв'язку з цим Спецвідділом проводилася робота з розробки та виготовлення спеціальної техніки. У тісному контакті працював Спецвідділ з Закордонним відділом ВНК, контактуючи та маючи зв'язок з агентурою, орієнтованою на здобуття шифрів і кодів.
Зберігся звіт про роботу Спецвідділу за 1921 рік. У ньому, зокрема, було вказано, що з самого початку успішно проводилася розробка та виготовлення нових кодів і шифрів. Тільки за цей рік було введено в дію на різних лініях зв'язку 96 нових кодів. Ця робота співробітників Спецвідділу активно підтримувалася урядом. Характерною для того часу була телеграма секретаря ЦВК СРСР Єнукідзе Бокію, хоча і відносилася вона вже до 2 вересня 1924 року та була пов'язана з закінченням роботи над телеграфним кодом:
«Поздоровляю тов. Г.І.Бокія з закінченням складання «Російського коду» – цієї величезної і складної праці.
«Буття визначає свідомість». Буття і необхідність сучасних стосунків, швидкий зв'язок і економія в часі штовхнули людей до створення цієї нової мови «коду», мови, не схожої ні на одну людську мову.
Як маленький шматочок радію при розкладанні випускає колосальну кількість енергії, так і слова «коду» – короткі, незрозумілі і невимовні для нашої мови, при розшифруванні розгортають перед нами ряд фраз і думок, що посилаються або отримуються нами здалеку.
Як стенографія стала необхідною для точного запису і розмноження людської мови, так і мова «код» стає і повинна стати необхідною в стосунках між людьми, що знаходяться на різних точках земної кулі.
Я упевнений, що «код» отримає широке застосування в усіх наших установах Союзу РСР.
Раз темп роботи Жовтневої революції нас привів до того, що ми вимушені були красиву та гнучку російську мову вимовляти зі скороченням складів, то по дротах і повітряних хвилях ми сміливо спілкуватимемося концентрованою мовою «код», тим паче, що вона доходитиме до адресатів у красивому, розгорненому і зрозумілому вигляді.
Я зі свого боку закликаю всі установи ввести у себе при спілкуванні по телеграфу і радіо мову «код». Єнукідзе».
На початку 1920-х років Спецвідділ включав 6, а пізніше – 7 відділень. Проте власне криптографічні завдання вирішували тільки три з них: 2-е, 3-є і 4-е. Так, співробітники 2 відділення займалися теоретичною розробкою питань криптографії, виробленням шифрів і кодів для ВНК і всіх інших установ країни (включаючи МЗС, Військове відомство тощо). Відділення в перші роки роботи складалося з 7 осіб, а його начальником був Федір Григорович Тіхоміров.
Перед 3 відділенням стояло завдання «ведення шифророботи та керівництво цією роботою у ВНК». Складалося воно спочатку всього з 3-х осіб, керував відділенням старий більшовик, колишній латиський стрілець Федір Іванович Ейхманс, який одночасно був заступником начальника Спецвідділу. Ейхманс організовував шифрозв'язок із закордонними представництвами СРСР, спрямовував і координував їх роботу.
Співробітники 4 відділення, а їх було 8 осіб, серед яких був і Крівош-Неманіч, займалися «відкриттям іноземних і антирадянських шифрів і кодів та дешифровкою документів». Начальниками цього відділення були: з травня по грудень 1921 року – Ященко, з січня по серпень 1922 року – Горячов, з серпня 1922 по вересень 1923 року – Ельтман.
Перші успіхи радянських криптослужб незабарилися. Уже в 1921—22 роках удалося розкрити перші дипломатичні й військові турецькі шифри, до 1925 року проводилася активна й небезуспішна робота з шифрами 15 європейських держав, у 1927 році розпочалося читання японських повідомлень, а в 1930 році були розкриті деякі шифри США.
У травні 1921 року при Штабі РСЧА був також утворений свій спецвідділ -Центральний шифрувальний відділ (далі – ЦШВ) і було затверджене Положення про нього та його штат, а також штати шифрорганів штабів фронтів, округів, армій, дивізій, бригад, Центрального управління ВОСО і дислокаційне відділення (далі – ДВ) Управління зв'язку штабу РСЧА, Управління ВОСО і ДВ зв'язку штабів фронтів і армій. ЦШВ складався з 4-х відділень загальною чисельністю 27 осіб.
В той час столицею радянської України був Харків, тому в 1921 році в складі українських органів держбезпеки був створений Загальний відділ під керівництвом Ігнатова, одним із завдань якого було забезпечення таємного телеграфного зв'язку. Пізніше при ДПУ Української Радянської Соціалістичної Республіки (далі – УРСР) було організовано Шифрувальне бюро.
Співробітниками ЦШВ були розроблені перші радянські шифри «74-й Ключ Наркомвоена», «Гелиос», «75-й Ключ Наркомвоена», «Советский» та інші. У 1921 році ними було виготовлено й розіслано у війська та на флот 54 нові шифри і 2 радіокоди.
Коди та шифри того часу – «Око», «Кулемет», «Стрілок», «Пролетар», «Іскра», «Спартаківець» – згодом були витіснені більш серйозними – «УП Третій», «АРО Перший» та іншими. Це підвищило стійкість шифрованих повідомлень і збільшило безпеку застосування наявних каналів зв'язку.
З перших місяців свого існування Спецвідділ розпочав успішно проводити дешифрування іноземного листування. Колегія ВНК робила все для того, щоб організувати справу найкращим чином і забезпечити повну таємність. Був встановлений порядок, згідно з яким про всі розкриті шифри та здобуті відомості Спецвідділ доповідав ЦК партії, Раднаркому, голові ВНК і керівникам інших зацікавлених відомств.
Колегія ВНК надавала велике значення оперативному використанню таємного листування, що дешифрувалося. Всі термінові і особливо важливі дешифровані повідомлення доповідалися негайно. Вже у той час дешифровані матеріали активно використовувала радянська розвідка, НКЗС, деякі інші організації.
Перший позитивний результат був досягнутий у «розкритті» німецького дипломатичного коду, яким користувався повноважний представник німецького уряду в Москві. Це був цифровий 5-значний код з перешифруванням гамою багатократного використання. Починаючи з червня 1921 року, розшифровувалося все листування на лінії зв'язку Москва-Берлін.
З 1922 року Німеччина ввела на дипломатичних лініях зв'язку буквений код з перешифруванням гамою багаторазового використання. Коди та велика частина перешифрувальних засобів розкривалися аналітичним шляхом у Спецвідділі. Розкриття таких шифрів дозволило контролювати листування багатьох ліній дипломатичного зв'язку Німеччини та її консульств у Ленінграді, Києві, Одесі, Харкові, Тбілісі, Новосибірську, Владивостоку аж до 1933 року, коли кількість читаного листування різко скоротилася через те, що німці почали застосовувати гаму одноразового використання.
У серпні 1921 року було здійснено дешифрування перших турецьких дипломатичних телеграм. Вже на початку 1920-х років криптологи Спецвідділу добилися можливості читати листування внутрішніх ліній зв'язку Туреччини та окремих ліній зв'язку військових аташе. Турки застосовували головним чином 4-значні коди з перешифруванням короткою гамою, змінною через дві доби, а також коди без перешифрування. Дешифроване листування містило відомості, які представляли великий інтерес для радянської сторони, та активно використовувалося. Багато дешифрованих телеграм надсилалося, наприклад, в Закавказьку НК, і це давало можливість вжити заходи з припинення шпигунських дій іноземних, а у даному випадку турецької, розвідок. У 1921 році Спецвідділ розпочав розробляти англійське шифролистування.
Велику допомогу Спецвідділу надавав Іноземний відділ ВНК, розвідники якого у період 1920-30-х років добули більше 10 англійських кодів. По цих шифрах читалася частина дипломатичного листування, проте не вся, оскільки виникали складнощі з розкриттям перешифрування.
Серед «розкритого» листування було багато матеріалів, що представляли великий інтерес для радянського уряду, органів радянської розвідки та контррозвідки. Серед таких документів були, наприклад, телеграми про радянсько-англійські відносини, про продаж англійцями зброї країнам, що мали кордон з СРСР, про діяльність англійської розвідки у Середній Азії тощо.
Хоча робота з розкриття польських шифрів почала проводитися незабаром після організації Спецвідділу, перші практичні результати були отримані лише у 1924 році, коли були розкриті 2 коди 2-го розвідувального відділу генерального штабу польської армії для зв'язку з військовими аташе в Москві, Парижі, Лондоні, Ревелі, Вашингтоні і Токіо.
Для органів державної безпеки особливу цінність мали дешифровані телеграми, що освітлювали шпигунську діяльність кадрових розвідників, що знаходилися під офіційним прикриттям іноземних дипломатичних, військових і консульських представництв у СРСР. Так, почате у 1924 році читання дешифрованого листування польських військових аташе дозволило отримувати таємні повідомлення польської розвідки, яка намагалася широко проводити шпигунську роботу на території СРСР. Радянська розвідка була дуже зацікавлена в отриманні подібної інформації.
Природно, що в початковий період своєї роботи Спецвідділу довелося зустрітися з великими труднощами. Досвідчених криптологів було мало, і кожному з них доводилося очолювати роботу по декількох напрямах. Молоді співробітники ще не володіли необхідними криптологічними та мовними знаннями. Перехоплення шифролистування по багатьох лініях зв'язку велося нерегулярно, можливості виділених технічних засобів були дуже обмежені. Всі роботи, пов'язані з аналізом шифроматериалів, проводилися тільки вручну. Були й інші труднощі. Проте у міру зміцнення Спецвідділу, зростання майстерності його співробітників обсяг криптологічних досліджень з розкриття шифрів почав неухильно зростати. До 1925 року проводилася розробка шифрів вже 15 держав. У 1927 році почалося читання японського листування, а у 1930 році – листування деяких ліній зв'язку США.