В ту же ночь отряд двинулся на аул Гатлукай. На мосту через реку Псекупс передовые части отряда были встречены сильным артиллерийским, ружейным и пулеметным огнем красных, крепко занявших правый берег реки. Бой длился в течение всего дня 10 марта и не привел к успеху. Огнестрельные припасы быстро подходили к концу. Было ясно, что если отряд и перейдет через Псекупс, то до Баталпашинского отдела не дойдет.
На новом совещании у атамана было решено изменить первоначальный план и идти на Черноморское побережье. Но каким путем идти? После оставления Пензенской она была занята большевиками, тоже и аул Шенджий после ухода Кузнецова. Было решено идти вразрез между этими пунктами по малоизвестной дороге за проводником из местных черкесов. Уничтожив лишние повозки, часть орудий и радиостанцию, отряд, соблюдая тишину, ночью двинулся в намеченном направлении.
Как ни спешили пройти дорогу Шенджий – Пензенская до наступления рассвета, это не удалось. Узкая и мелкая речка Чибий, протекавшая восточнее этой дороги, благодаря крутым берегам и грязному спуску и подъему сильно задержала движение. Лишь только передовые части пересекли Шенджийскую дорогу, как были задержаны огнем противника. Быстро развернувшись и тесня пред собою красных, отряд вдвигался на станицу Калужскую. Неожиданно, верстах в десяти от нее, было встречено сильное сопротивление красных. Из опроса пленных выяснилось, что большевики сосредоточили в районе этой станицы сильный отряд пехоты с артиллерией, имевший задачей ликвидировать Кубанский отряд. Разгорелся бой. Ружейный и пулеметный огонь противника наносил довольно чувствительные потери, но артиллерия его действовала лишь морально, давая перелеты.
После полудня у стрелков Туненберга почувствовалось некоторое замешательство, быстро передавшееся тылам, находящимся в непосредственной близости от цепей. В это время на левый фланг стрелков быстро выдвинулся, по личной иницативе, со своим отрядом полковник С. Улагай, перешел в решительное наступление, а за правым флангом боевого расположения показались густые цепи. То были обозные, раненые, члены Рады и правительства, выстроившиеся, по инициативе войскового атамана, в несколько линий и обозначившие наступление.
Энергичные действия полковника Улагая и появление этих цепей заставили красных начать отступление. Этим воспользовался полковник Косинов, решительно атаковавший левый фланг противника, а Стрелковый полк с криком «Ура!» перешел в наступление. Бой был выигран. Красные отступили к Калужской.
Здесь надо отметить следующее: в самый критический момент боя, когда выходили цепи обозных и других нестроевых и безоружных, из Шенджия прискакали несколько черкесов и радостно сообщили, что в их аул пришел разъезд от Корнилова и что сам он движется туда же. Сообщение это некоторыми лицами, занижавшими высокое положение находившихся в тылу, было названо провокационным, и они советовали не верить ему; но когда о прибытии черкесов узнали на фронте, то поверили правдивости их слов, и радостное известие удвоило энергию стрелков, преследовавших врага.