Войско состояло из полков (Regiment), которые в свою очередь составлялись из рот (Fahnlein); роты подразделялись на капральства, по 10 солдат в каждом. У немцев в полку насчитывалось от 10 до 18 рот, у испанцев – от 24 до 29 рот, а в роте до 400 солдат. Фактическая численность рот всегда была меньше. Полк и рота были административными единицами.
Тактической единицей являлась квадратная колонна, состоявшая из рот, которая называлась: у немцев – масса (Haufe), «банда» (батальон); у испанцев – терция. Такая организация обеспечивала выполнение тактических задач в обстановке применения нового, более совершенного огнестрельного оружия. Артиллерия еще не имела тактических единиц.
Когда заканчивалось формирование полка, полковник производил смотр, проверял количество людей, соответствие их требованиям военной службы и наличие у них положенного вооружения. После смотра зачитывалась «артикульная грамота» (Artikelbrief), в которой излагались обязанности ландскнехта и дисциплинарные правила, обязательные для выполнения. Полковник подписывал «артикульную грамоту» и скреплял свою подпись печатью, а ландскнехты присягали, обязуясь точно выполнять предъявляемые к ним требования. И полковник, и его ландскнехты редко выполняли свои обязательства: жалованье выплачивалось неаккуратно, бунты ландскнехтов были обычным явлением. Основы воинской дисциплины, базировавшиеся на материальной заинтересованности и физическом воздействии, были весьма непрочны. Моральная и национальная основы дисциплины отсутствовали.
В XVI в. военные теоретики Западной Европы изучали труды греческих, римских и византийских военных писателей, рекомендуя использовать организационный опыт древних армий. В 1533 г. французский король приказал формировать по провинциям легионы по «римскому образцу». Было сформировано семь легионов, по 6 тыс. человек каждый. Легион состоял из шести когорт. В когорте имелось 800 пикинеров или алебардистов и 200 аркебузеров. Эти формирования, по существу, являлись восстановлением организации французских вольных стрелков (аршеров).
Попытка использовать формы организации древних армий в новых условиях была реакционна, так как эти формы не соответствовали новым социально-экономическим и политическим условиям и не отвечали требованиям ведения боя, в котором применялось новое оружие. «Римским образцом» оказалось лишь одно название, и от него вскоре пришлось отказаться. Новое содержание не удалось втиснуть в слишком старые организационные формы.