В 1577 г. Терское или Гребенское казачье войско было уже официальным вооруженным формированием.

К 1586 г. сообщалось, что на Терском хребте у «Горячего Колодца» (наст. ст. Горячеводская) расположилась группа казаков, а на левом берегу Терека находятся две станицы (так назывались станы казачьих отрядов) — Верхняя и Нижняя. В основном казаки селились в «городках» (небольшие укрепления, огороженные рвом и валами с деревянным тыном) отрядами из 20–30 человек. Казаков, селившихся на Терском хребте, называли гребенскими, а по берегу Терека — терскими. Свое название гребенские казаки получили от гребней Кавказских гор, где «слово „гребень“ имеет то же значение, что и на Доне». По настоящее время вопрос о происхождении названия «гребенское казачество» остается до конца не выясненным, но достоверно известно, что рязанские казаки, высадившиеся на берегах Сунжи, основали три станицы по имени своих атаманов: Курдюковскую, Гладковскую и Шадринскую. Затем были построены станицы Новогладновская и Червленная. В XVI в. царские воеводы в своих донесениях постоянно путали гребенских и терских казаков, называя их общим именем «терские казаки». Вследствие этого отмечается перенос истории, связанной с гребенцами, на терцев^{17}.

Гребенцы оказали активную помощь царским воеводам в строительстве пограничной крепости Терки, заложенной в 1567 г. в устье реки Сунжи, которая позже была перенесена в устье реки Терек, охраняли границу, проходящую вдоль реки Терек, от набегов крымских татар, ногайцев и горцев.

Сохранилось также предание о переговорах Ивана Грозного с гребенскими казаками, записанное Л. Н. Толстым^{17}.

В 1653 г. в результате нашествия персидских войск и их союзников, вошедшего в историю как «Кызылбашское разорение», более 10 казачьих городков исчезли совсем, поскольку их население было либо уничтожено, либо уведено в плен, а немногие уцелевшие влились в состав жителей других станиц.

В 1685 г. терские казаки были временно оттеснены с гор, а в 1707 г. большинство старых казачьих городков было уничтожено кубанским султаном Каибом. В 1712 г. уцелевшие гребенцы были переселены вниз по Тереку^{38}.

Казаки, свободные люди, не всегда подчинялись царским приказам и часто укрывали у себя беглецов, вызывая недовольство властей. Несмотря на это, в 1721 г. Гребенское войско включают в состав вооруженных сил, строятся новая крепость, а затем закладывается город Кизляр, в котором терские казаки стали проживать и служить вместе с северокавказцами, лояльными Российской Империи.

В 1832 г. Терско-семейные и Гребенские казачьи полки объединили с прочими, что располагались на реке Терек и на Моздокской линии, и они образовали Кавказское линейное казачье войско.