Начались изнурительные допросы, выдвигались самые нелепые обвинения.
Но епископ Августин спокойно излагал факты:
Кружков я не организовывал, рекомендовал лишь использовать верующими законную возможность изучать Закон Божий Это я говорил с амвона в церкви.
В заключении по делу епископа значилось и возводилось ему в вину, что им бала создана для управления Иваново-Вознесенской епархией епархиальная канцелярия как нелегальная организация, не зарегистрированная в отделе Управления. Кроме этого епископ Августин обвинялся в создании нелегального кружка, куда вовлекались несовершеннолетние дети дла изучения Закона Божия.
22 октября 1926 года Особое Совещание при Коллегии ОГПУ приговорило епископа к трем годам ссылки в Среднюю Азию. Время высылки владыки (26 октября) стало известно его духовным чадам из Москвы и Иваново заранее, и к поезду на Казанский вокзал собралось множество народа. Среди провожающих были и дочери епископа. Женщины упросили конвоиров разрешить епископу проститься со своими детьми, которым на то время было 12 и 7 лет. Владыка вышел из вагона и благословил девочек.
Епископ Августин (Беляев).
Сразу же после высылки владыки верующие Иваново произвели сбор денежных средств как для самого епископа, так и для находившихся в тех же местах ссыльных священнослужителей. Власти на это ответили жестоким террором. Инициаторы были осуждены на различные сроки заключения за организацию «несанкционированного властями Красного Креста».
Первоначально епископ Августин попал в город Ходжент, позднее в город Педжикент Таджикской ССР, где он пробыл до марта 1930 года. Здесь его и нашёл приехавший к нему его преданный келейник и иподиакон Борис Семёнов. Поселился владыка в небольшой комнате, где оборудовал домашнюю церковь. Здесь он служил сам, сюда приходили некоторые ссыльные, которым он мог доверять.
Его духовные чада утешались редкими письмами, приходящими из ссылки. Эти письма читались вслух, пересказывались, обсуждались в узких кругах. У каждого болела душа за любимого пастыря. А владыка старался утешить и успокоить каждого:
Верю, что если моё пребывание среди вас было добрым семенем, то эти добрые семена в вас не умрут
Более всего владыка просил своих чад уповать на Бога, не терять веру (не смотря на внешнюю пропаганду и жестокие гонения), не оставлять по возможности богослужения и посещать храм Божий:
Родные деточки мои о Господе. Весьма радуюсь вашим учебным успехам, но скорблю, что в такой тесноте ваша религиозная совесть, вам уже заметили, что ношение креста позорит науку. Вот это характерно очень, ведь крест символ терпения, самоограничения, которые необходимы для тех, кто встал на путь борьбы со всякой подлостью, живущей в человеке и в человечестве. Как же поэтому возражать против крестоношения
По завершении срока ссылки Особым Совещанием ОГПУ 14 октября 1929 года было принято решение: запретить преосвященному Августину в течение трех лет проживать в крупных городах и областях России и в Ивановской области.
Заместитель Местоблюстителя митрополит Сергий назначил епископа Августина на Алма-Атинскую кафедру. Но в Алма-Ате владыке было отказано в проживании. Вследствии чего митрополит Сергий направил владыку на кафедру в Сызрань. В апреле 1930 года преосвященный Августин прибыл в Сызрань, где снял часть дома. Сюда к нему приехал его келейник Борис Семёнов. Здесь, в Сызрани, владыка рукоположил его в сан диакона.
Весной 1930 года в Сызрани развернулась активная кампания по изъятию церковных ценностей и закрытию храмов. Прихожане закрытых церквей направили в Москву делегацию. В этот период епископ Августин объединил вокруг себя все духовенство, явившись для всех и заботливым отцом, и мудрым руководителем. Это укрепило его авторитет среди верующих и вызвало глубокое недовольство местных властей, которые стали искать повод для ареста архиерея и активной части духовенства и верующих. Не прошло и года от начала пребывания владыки в Сызрани, как последовал его очередной арест.
21 февраля 1931 года епископ Августин был арестован. Вместе с ним были заключены под стражу шестнадцать священников, монах и тридцать девять мирян (включая церковных старост и членов церковных двадцаток), был арестован келейник епископа Августина диакон Борис. Арестованным были выдвинуты обвинения в борьбе против советской власти, против колхозного строительства и ликвидации кулачества как класса, в организации движения за политические права Церкви, в пропаганде тихоновской церкви, в организации незаконной помощи политическим ссыльным.
В обвинительном заключении значилось:
«С появлением на Сызранской кафедре епископа Августина церковная жизнь почувствовала в нём крепкую опору старых традиций, к нему потянулось самое реакционное духовенство а также миряне из бывших людей и торговцев, видя в нём своего по духу человека. И с этого момента епископ Августин под флагом религиозной общины Казанского собора начал вновь концентрировать, до сих пор разрозненный, поповско-торгашский и монашествующий элемент. Таким путем под его непосредственным руководством произошло окончательное оформление ядра контрреволюционной организации»
Последовала волна допросов. Владыку обвиняли в антигосударственной деятельности, в растлевающем сознание воздействии на умы молодёжи (осуществляемом посредством личного общения и переписки).
На допросах владыка всё отрицал, не смотря на жёсткие и многочисленные обвинения в организации смуты, саботажа и беспорядков:
В предъявленном мне обвинении виновным себя ни по одному пункту обвинения не признаю. К ранее данным показаниям добавляю, что ни в какой организации я не состоял, среди верующих никакого возмущения ни проповедями, ни агитацией не проводил.
28 октября 1931 года Особое Совещание при Коллегии ОГПУ приговорило епископа Августина и диакона Бориса к трем годам заключения в концлагерь.
Перед отправкой в ссылку духовные чада владыки помогли организовать его встречу и прощание с детьми. Это было очень трогательно. И только годы спустя дочери владыки смогли оценить и понять сколь великую имел веру и надежду на Промысел Божий их отец.
«За молитвы праведника Бог не оставил нас и мы не пропали. Около нас всегда были добрые люди», вспоминали они. Позднее дочери владыки Августина вместе со своей преданной няней уехали в Пензу к тётке.
Первоначально Преосвященный Августин находился в концлагере возле станции «Лодейное Поле» (что в Ленинградской области). Заключенные здесь занимались сбором смолы. Лагерь располагался в глухом лесу. Работа считалась легкой, но была установлена столь высокая норма, что далеко не все могли её выполнить, а кто не выполнял, того лишали пайка. Первоначально епископ Августин работал на сборе смолы, но спустя некоторое время ему предложили место фельдшера в медпункте. В концлагере владыка строго соблюдал посты, не вкушал мясного, отдавая его другим. Если бы не помощь духовных детей, переправляющих ему небольшие продуктовые посылки, владыка вряд ли смог бы выжить в лагере.
По отбывании заключения, в 1934 году преосвященный Августин был утверждён на должность епископа Калужского и Боровского. В Калуге владыка снял маленькую комнатку. Позднее владыке помог с жильём местный священник, но из-за постоянных проверок милиции адреса приходилось менять.
От дома до храма владыка всегда ходил пешком, в рясе и клобуке, с панагией на груди и с посохом в руке. Это был самый разгар гонений на Русскую Православную Церковь. Часто в спину ему доносились усмешки и угрозы, но он шёл спокойно и уверенно, словно ничего не видя вокруг себя. Служил владыка в храме великомученика и Победоносца Георгия.
Прихожане любил своего архипастыря, с трепетом слушали проповеди владыки и во время его служб в храме всегда было много молящихся. Молился владыка воодушевлённо и внимательно. Своим вдохновением и серьёзностью увлекал других. Людей удивляла и притягивала его непоколебимая апостольская вера и твёрдость, ввиду которых многие укреплялись в вере, словно ощутив себя крепким зданием на твердом фундаменте, которому не страшно житейское безбожное море. Завершалось богослужение под общее пение всем храмом «Отче наш», «Царю небесный», «Не имамы иныя помощи». В это время владыка благословлял всех и выходил из храма. Зачастую прихожане за беседой провожали его до дома.
По большим церковным праздникам к владыке приезжали духовные чада из Иванова, Кинешмы и Москвы. Он помнил и утешал каждого, старался вникнуть в суть происходящего, помогал чем мог, особенно мудрым и неспешным советом. Владыка Августин обладал удивительным смирением. С дочерью Ниной, которая после окончания седьмого класса переехала в Калугу и для которой снимали комнату неподалеку от дома, где жил владыка, он считал нужным говорить не только на религиозные, но и на научные темы.
2 апреля 1936 года преосвященный Августин был возведен в сан архиепископа.