Ожидая ответа, Кауфман дал возможность восстановить силы своим солдатам, а сам вместе с молодым художником В. В. Верещагиным, осматривал древнюю столицу империи Тимура.
Не дождавшись ответа от эмира, Кауфман 13 мая, собирает военный совет, на котором было принято решение двигаться в сторону Бухары. 29 мая от генерала Н. Н. Головачёва, стоящего со своим отрядом в кишлаке Каттакурган, поступило сообщение о скоплении вблизи селения крупных сил бухарцев. На следующий день Кауфман выступил на помощь Головачёву, оставив в Самарканде небольшой гарнизон примерно 650 человек.
2 июня 1868 года на Зирабулакских высотах, между Каттакурганом и Бухарой, произошло решающее сражение эмирского войска с отрядом Кауфмана и вновь бухарцы потерпели поражение. Дорога на Бухару была открыта, а сам Музаффар собирался бежать в Хорезм, но тут до Кауфмана дошло известие, что у него в тылу неожиданно образовался очаг сопротивления.
В день, когда отряд генерал-губернатора покинул древний город, к Самарканду стянулось 25 тысячное войско под началом Баба-бека. Шахризябские правители, решив, что с властью эмира, потерпевшего катастрофическое поражение покончено, поспешили избавиться и от русских. В союзе с шахрисабзцами выступил 15-тысячный отряд киргизов во главе с Адилем-Дахты. Одновременно, подзуживаемые духовенством, восстали и жители Самарканда. По утверждению военного историка А.И Макшеева, численность противостоящих русскому гарнизону врагов достигала 55 тысяч человек. То есть превосходила в 80 раз. Поняв, что защитить город сил не хватит, русские укрылись в цитадели с мощными, толщиной 12 метров, стенами, и приготовились к бою. «Когда мы затворили за собой ворота, вспоминал участник событий штабс-капитан Черкасов, неприятель ворвался в город Под звук зурн, бой барабанов, сливавшийся с дикими криками, неприятель быстро распространился по улицам города. Не прошло и часа времени, как уже все улицы были наполнены им и развевающиеся значки стали ясно видны для нас». Толщина стен и достаточное количество продовольствия, позволяло выдержать долгую осаду, но было два слабых места ворота: Бухарские, в южной стене и Самаркандские в восточной. Трижды шахрисабзцы пытались выломать Бухарские ворота, которые защищали 77 солдат под началом майора Альбедиля, но каждый раз их отбрасывали метким ружейным огнем. При этом сам Альбедиль был тяжело ранен. Тогда штурмующие подожгли ворота. У Самаркандских ворот, где держали оборону 30 солдат прапорщика Машина, также завязался бой. И здесь нападавшим удалось ворота поджечь, однако попытка проникнуть внутрь не удалась, солдаты выбили атакующих штыками. Противник пытался вскарабкаться и по стенам, используя железные крючья. Однако, везде нападавших встречал меткий огонь солдат. К вечеру атаки были отбиты ценой 20-ти убитых рядовых и 2-х офицеров.
3 июня штурм возобновился. Утром, шахрисабзцы, сломав обгоревшие остатки ворот, разобрали сооруженную русскими баррикаду и проникли внутрь. Солдаты бросились в штыки, причем впереди всех был В. В. Верещагин. Атака была отбита.
И ещё пять дней продолжались попытки захватить русский гарнизон, ряды которого с каждым часом редели. Только 8 июня к Самарканду вернулось войско Кауфмана, обратившее шахрисабзцев и киргизов в бегство. В течение 8-дневной обороны защитники потеряли 49 человек убитыми (в том числе 3 офицеров) и 172 человека ранеными (5 офицеров).