Таким образом, донесения, которые советские разведчики отправляли из Вашингтона в Москву, сначала кодировались с помощью кодовой книги, а затем шифровались с использованием одноразового шифрблокнота. Применение одноразового шифрблокнота делало советскую шифрсистему невскрываемой. Даже если бы американцы каким-либо образом раздобыли кодовую книгу (к примеру, выкрали или купили) и узнали бы в деталях о советской шифрсистеме (например, от перебежчиков или предателей), все равно они мало бы продвинулись в ее вскрытии. Стойкость такой шифрсистемы определяется, во-первых, случайностью (т. е. непредсказуемостью) последовательности знаков, из которых состоит шифрблокнот, а во-вторых, уникальностью этой последовательности. Последнее означает, что каждая страница шифрблокнота используется для зашифрования и расшифрования донесений один и только один раз. При строгом соблюдении обоих этих условий взломать шифрсистему, построенную на основе одноразового шифрблокнота, невозможно.
Однако такая абсолютная стойкость одноразового шифрблокнота дается очень дорогой ценой. Поскольку каждое разведывательное донесение после кодирования приходилось дополнительно шифровать с помощью уникальной цифровой последовательности, для засекречивания сотен тысяч сообщений количество страниц в шифрблокноте должно было исчисляться теми же сотнями тысяч[13]. Ведь чтобы обеспечить абсолютную надежность, каждая страница шифрблокнота могла быть использована только один раз. В 1940-е годы, в отсутствие быстродействующих компьютеров, которые можно было бы использовать для автоматизации процесса создания шифрблокнотов, вручную изготовить совершенно случайную цифровую последовательность длиной несколько сот тысяч знаков оказалось просто невозможно.
Благодаря показаниям перебежчиков, в АНБ получили общее представление о методах, которые применялись при изготовлении шифрблокнотов для нужд советской разведки. Шифровальщик ГРУ Гузенко рассказал, что для этой цели использовалось специальное механическое устройство, больше всего напоминавшее лототрон, из которого периодически выкатывались нумерованные шары. А Владимир Петров, долгое время возглавлявший одно из подразделений шифровального отдела КГБ, которое отвечало за связь с зарубежными резидентурами, поведал о существовании электролампового устройства, генерировавшего электрические импульсы, которые затем преобразовывались в последовательность случайных чисел.
Надо сказать, что и в Японии, и в Германии прекрасно осознавали, что одноразовый шифрблокнот предоставляет наивысшую степень защиты для зашифрованных с его помощью сообщений. Однако при отсутствии достаточного количества квалифицированных специалистов и нехватки материальных ресурсов в суровых условиях военного времени там решили вместо создания огромного числа шифрблокнотов, содержащих уникальные цифровые последовательности, пойти более простым путем. В период между двумя мировыми войнами немецкие и японские специалисты разработали шифрсистемы, которые хотя и являлись менее стойкими, чем одноразовый шифрблокнот, зато были значительно более легкими в производстве и эксплуатации. Наибольшее распространение и известность получила немецкая шифровальная машина «Энигма», снабженная клавиатурой для ввода открытых текстов сообщений и панелью с лампочками для считывания соответствующих им шифрованных текстов. В Германии и Японии обоснованно полагали, что хотя стойкость разработанных ими машинных шифров была далека от абсолютной, при правильном их использовании вскрыть на практике эти шифры не представлялось возможным. Однако и немцы, и японцы оказались не в состоянии внедрить процедуры организации секретной связи, которые бы гарантировали необходимый уровень защиты для своих сообщений. Кроме того, они недооценили способности американских и английских взломщиков кодов, которые сумели выявить бреши в немецких и японских шифрсистемах и воспользоваться ими с максимальной для себя пользой.
Советская Россия, в отличие от Германии и Японии, сделала свой выбор в пользу одноразовых шифрблокнотов. В 1941 году Германия начала военные действия против Советской России, нарушив заключенный двумя годами ранее пакт о ненападении. По сравнению с довоенным периодом количество сообщений, которые советские дипломатические ведомства отправляли в Москву, возросло неимоверно. Имевшийся в их распоряжении запас шифровальных блокнотов начал таять буквально на глазах. Решение проблемы было найдено в начале 1942 года страницы в шифрблокнотах стали повторяться. Шифрблокноты перестали быть одноразовыми. Сейчас неизвестно, кому первому пришла в голову эта идея запаниковавшему ли руководителю советской шифровальной службы, которого ждало суровое наказание за неспособность обеспечить дипломатов и разведчиков шифрблокнотами в необходимом количестве, или рядовым сотрудникам, которые физически не справлялись с изготовлением случайных последовательностей для шифрблокнотов. Да это и не так важно. Главное, что за один только 1942 год число повторяющихся страниц в шифрблокнотах составило более 70 тысяч, из которых криптоаналитики АНБ в ходе операции «Венона» сумели выявить примерно половину.
Таким образом, производительность труда советских специалистов, работавших над изготовлением шифрблокнотов, в 1942 году выросла вдвое. И все это только за счет того, что из одноразовых шифрблокноты превратились в двухразовые. В КГБ, скорее всего, посчитали, что простое повторение страницы в шифрблокноте хотя и делало шифрсистему вскрываемой, понижало ее стойкость лишь незначительно. Ведь чтобы воспользоваться этой слабостью, противник должен был научиться отыскивать в потоке перехватываемых сообщений те из них, которые были зашифрованы с использованием одной и той же страницы шифрблокнота. Поэтому для минимизации риска дублировались не шифрблокноты целиком, а лишь их отдельные страницы. Затем сделанные дубликаты распихивались в различные шифрблокноты, которые, в свою очередь, рассылались в советские дипломатические представительства по всему миру. Лишь государство, обладавшее специалистами высокого класса, работавшими в агентстве, которое располагало всеми необходимыми ресурсами, чтобы отслеживать и перехватывать переписку других стран по всему миру, могло надеяться на успешный исход своей криптоаналитической атаки на советский шифр. В США такие специалисты нашлись.
В начале Второй мировой войны возможности, которыми обладало АНБ, были весьма ограниченны. В сентябре 1939 года, когда Германия оккупировала Польшу, в штате АНБ числилось всего 19 человек. А когда два года спустя Япония атаковала американскую военно-морскую базу на тихоокеанском острове Пёрл-Харбор, количество сотрудников АНБ достигло уже 400. Среди них были не только высококвалифицированные специалисты по вскрытию кодов и шифров криптоаналитики, но и служащие на станциях перехвата, а также обслуживающий персонал.
В 1942 году АНБ получило в свое распоряжение здание школы для девочек в Арлингтоне на противоположном от Вашингтона берегу реки Потомак в Северной Вирджинии. К зданию школы были спешно пристроены еще два больших дома. С тех пор правительственные чиновники в Вашингтоне стали неофициально называть АНБ Арлингтон-Холлом по имени школы, на территории которой располагалась эта служба.
С началом ведения боевых действий против Японии численность АНБ стала неуклонно расти и к 1945 году достигла более 10 тысяч человек. Несколько профессионалов-криптоаналитиков, которые работали в АНБ в довоенный период, к середине 40-х годов растворились в огромной массе ее сотрудников, мобилизованных на службу в АНБ. Эти новоявленные взломщики кодов и шифров обладали самой разной профессиональной подготовкой. Одни из них были лингвистами со знанием нескольких иностранных языков, другие математиками, для которых задача взлома шифров представляла собой чисто математическую проблему, третьи инженерами и техниками, занимавшимися радиоперехватом, а четвертые просто любителями кроссвордов и головоломок. Ветераны Арлингтон-Холла давно отметили для себя тот факт, что карточные игры, требовавшие математических навыков, вместе с разгадыванием кроссвордов были любимым времяпрепровождением для большинства сотрудников АНБ.
Во время Второй мировой войны примерно две трети служащих АНБ были женщинами, поскольку в условиях военного времени на мужчин был значительно больший спрос, чем на женщин. Для персонала АНБ были организованы разнообразные учебные курсы, чтобы помочь овладеть профессиональными навыками из области взлома шифрсистем. Однако научить всему за отведенный для этого небольшой период времени было невозможно, и поэтому основной упор делался не на курсы, а на самостоятельное изучение криптоанализа и связанных с ним дисциплин. В результате в довольно короткие сроки в Арлингтон-Холле добились значительных успехов во взломе японских и немецких шифров.
В АНБ приступили к перехвату советских шифровок еще в 1939 году. Однако на протяжении нескольких лет почти никакой работы с ними не велось, поскольку первые попытки продвинуться в их прочтении никакого ощутимого результата не дали, а также потому, что более важным считалось чтение немецкой и японской шифрованной переписки. Так продолжалось до 1942 года, когда в Арлингтон-Холле удалось вскрыть японский дипломатический код. Из дешифрованных сообщений, которыми обменивались японские военные атташе в Берлине и Хельсинки с Токио, в АНБ стало известно о результатах работы финских криптоаналитиков над вскрытием советских шифров. Финны обладали сильной криптоаналитической спецслужбой, которая была нацелена исключительно на Советскую Россию, представлявшую, по их мнению, основную военную угрозу для Финляндии. Финским криптоаналитикам не удалось взломать ни одной советской дипломатической шифрсистемы, однако они продвинулись в уяснении характеристик этих шифрсистем. Например, финны научились сортировать шифровки советских дипломатов согласно типам используемых ими шифрсистем. Своими достижениями финны поделились с японцами, также питавшими антипатию по отношению к Советской России.
Информация, почерпнутая из дешифрованной переписки японцев и финнов, помогла американским криптоаналитикам разделить перехваченные советские сообщения на группы, каждая из которых соответствовала определенной шифрсистеме. Такое разделение всегда является первым шагом атаки на шифр. Однако после этого в АНБ ошибочно посчитали, что советские шифрсистемы были обычного типа с ключами, которые использовались для шифрования сразу нескольких сообщений. Поэтому сотрудники АНБ надеялись, что вскроют эти шифрсистемы довольно быстро, в чем сразу же заверили полковника Кларка, едва получив от него задание заняться советской шифрованной перепиской.
Первоначально операция по вскрытию советских шифров не имела названия. Когда о ней заходила речь, то на нее ссылались, используя фразы типа «советская дипломатическая головоломка». По прошествии короткого периода времени после начала этой операции ей было присвоено кодовое наименование «Нефрит», потом «Невеста», затем «Снадобье» и наконец в 1961 году «Венона». Именно под последним названием она и вошла в историю, хотя в течение довольно продолжительного периода времени слово «Венона» использовалось лишь для обозначения переводов открытых текстов прочитанных шифровок с русского на английский язык. А для обозначения перехваченных советских шифртелеграмм использовались кодовые наименования «Черника», «Бурбон» и «Ротанг».
Путем анализа перехваченных советских сообщений вскоре удалось выяснить, что имелось пять шифрсистем, построенных на основе одноразового шифровального блокнота. Одну из них в АНБ назвали Торговой, поскольку она принадлежала Советской закупочной комиссии правительственной организации, которая занималась вопросами, связанными с оказанием экономической помощи Советской России со стороны США, и Амторгу торговому представительству Советской России в США.
История создания Амторга восходит к 1921 году, когда американец Арманд Хаммер приехал в Москву, имея при себе сопроводительное письмо, адресованное вождю большевистской революции в России Ленину. Оно было написано отцом Арманда Юлием, эмигрантом из России, личным другом Ленина. Советское правительство осталось должно ему более 100 тысяч долларов: во время блокады Советской России западными странами Юлий Хаммер поставлял большевикам лекарства. Для погашения этого долга Ленин договорился с Хаммерами о долгосрочном и весьма выгодном деловом сотрудничестве. В 1924 году во исполнение достигнутой договоренности была учреждена совместная Американская торговая организация, сокращенно Амторг.
Вторая из пяти советских шифрсистем применялась советскими дипломатами для переписки с Москвой. Остальные три шифрсистемы использовались советскими разведчиками в США сотрудниками Комитета государственной безопасности (КГБ)[14], Главного разведывательного управления (ГРУ) Генерального штаба и военно-морской разведки. Они работали под прикрытием в дипломатических и торговых представительствах Советской России в Вашингтоне, Нью-Йорке и Сан-Франциско.
Первого успеха сотрудники АНБ добились уже осенью 1943 года. На примере Торгового шифра лейтенант Ричард Холлок, мобилизованный из Чикагского университета, где он специализировался в области археологии, продемонстрировал, что русские по несколько раз используют страницы своих шифровальных блокнотов, включая их в состав различных блокнотов. Пользуясь большим объемом советской торговой переписки[15], в октябре 1943 года Холлок и его коллеги набили порядка 10 тысяч перехваченных шифровок на перфокарты, которые затем ввели в специальную машину, предназначенную для их сортировки. С ее помощью и были обнаружены повторения, которые позволили криптоаналитикам АНБ разработать методы вскрытия Торгового шифра, основанные на найденной ими слабости.
Вторая мировая война близилась к завершению, и количество сотрудников АНБ, которые принимали непосредственное участие в операции «Венона», стало быстро расти за счет криптоаналитиков, ранее трудившихся над вскрытием японских и немецких шифрсистем. Одним из таких криптоаналитиков был Самюэль Чу. Переключившись на разработку Торговой шифрсистемы, он вскоре обнаружил, что засекречивавшиеся с ее помощью сообщения включали пассажи, содержание которых можно было предсказывать с большой долей вероятности. Большинство из них представляли собой обычные уведомления о том, что такие-то корабли с таким-то грузом уже отплыли или вскоре отплывут из Америки к российским берегам.