Прадеда по отцовской линии звали Павел Перемушев. Он приехал в Грузию в середине XIX века, прежде отслужив 25 лет в нижних чинах и получил за это земельный надел в Кутаиси. Был женат на грузинке Саломее Медзмариашвили. В браке родились три дочери. Старшая из них Елизавета вышла замуж за Степана Окуджаву, писаря, с которым у неё было восемь детей, в том числе и Шалва отец Булата.
Вскоре после рождения Булата его отец, Шалва Окуджава был направлен на Кавказ комиссаром грузинской дивизии. Мать, Ащхен же осталась в Москве, работала в партийном аппарате.
Няней Булата была простая русская женщина Акулина Ивановна, скромная и набожная. Она вероятно, очень сильно повлияла на не по-кавказски умиротворенный и задумчивый характер Булата. Вот как он сам описывает свою няню: «Добрая, толстенькая, круглолицая, голубые глазки со слезой, множество скорбных морщинок в невероятном сочетании с добросердечием, с тихими медовыми интонациями: «Да что же это ты, малышечка, расшалилси?.. Ай не стыдно? Стыдно? Вот и славно, цветочек А Боженька-то все видит и думает: что ж это цветочек наш расшалилси?.. Во как«».
В автобиографическом романе «Упраздненный театр» Окуджава вспоминал: «Молилась Акулина Ивановна не размашисто, не истово, не показно, а почти про себя, где-нибудь в укромном уголке, щадя, наверное, несуразных безбожников, молодых и непутевых, но тоже сердечных и щедрых, и за них, быть может, просила, чтобы ее деревенский Бог оборотил свой лик и к ним, несмотря ни на что. Белый платок с поблекшим розовым орнаментом она будто бы и не снимала Мамины укоризны не обескураживали Акулину Ивановну, но тихая смущенная улыбка возникала на ее губах».
Вот фрагмент одного из стихотворных посвящений Окуджавы Акулине Ивановне (1989):
«Акулина Ивановна, нянька моя дорогая,
в закуточке у кухни сидела, чаек попивая,
напевая молитвы без слов золотым голоском,
словно жаворонок над зеленым еще колоском».
На учёбу Булат был отправлен в Тифлис, учился в русском классе в 43-й тбилисской средней школе. Отец был повышен до секретаря Тифлисского горкома. Из-за конфликта с Берией он обратился с просьбой к Орджоникидзе направить его на партийную работу в Россию и был переведён на Урал парторгом на строительство вагоностроительного завода в городе Нижний Тагил. Затем он стал первым секретарём Нижнетагильского горкома партии и вскоре выписал семью к себе, там Булат начал учиться в школе 32.
В 1937 году отец Б. Окуджавы был арестован в связи с троцкистским делом на Уралвагонстрое. 4 августа 1937 года Ш. С. Окуджава был расстрелян. Два брата отца также были расстреляны как сторонники Троцкого. Вскоре после ареста отца, в феврале 1937 года, мать, бабушка и Булат переехали в Москву.