По словам арабских писателей, Алп-Арслан, перед тем как начать сражение, передал через посланника халифа Роману Диогену предложение заключить мирный договор. Тот ответил отказом, и началась решающая битва. Она произошла, по мнению многих авторов, 19 августа, а по мнению Камаль ад-Дина – 25 августа 1071 года. По словам Матвея Эдесского, это случилось «возле местности Тохотап (иначе Догодап), поблизости от Маназкерта», а по словам аль-Макина, около Аз-Зухры. Роман взял на себя командование центром, а сзади оставил запасное соединение во главе со своим сыном Андроником. Правый фланг, в том числе наемников-узов, или кипчаков, император отдал под командование каппадокийца Алиата, а левый, в том числе печенегов, – под командование Никифора Бриенна. По словам Аристакеса, император восхитился, как доблестно воевали армяне с самого начала похода, то есть наконец оценил их по справедливости. «Увидев, как храбро армяне противостояли турецким лучникам, спокойно подставляя себя под их стрелы, он выразил им дружеские чувства и пообещал такие награды, которые невозможно было дать». Аристакес добавляет, что многие из этих солдат в душе не были на стороне императора, но все же шли на смерть, чтобы оставить после себя в наследство пример верности и мужества».

Несмотря на личную отвагу Романа Диогена, византийцы были полностью разгромлены. Похоже, часть состоявших у них на службе наемников-тюрков (кипчаки, печенеги и др.) послушались голоса крови и в самый разгар сражения перешли на сторону сельджуков. По словам Атталиата, византийский полководец Михаил Дука, командовавший резервами, желая повредить императору, пустил слух о его смерти и этим очень умело дал толчок беспорядочному бегству. Никифор Бриенн и Руссель де Байоль тоже нарушили полученные указания и бежали в сторону фемы Месопотамии. Разумеется, византийцы, чувствуя, что виноваты перед армянами, не упустили случая заподозрить армян, а армяне ожидали измены от наемников-тюрок, часть которых действительно предала византийцев. На самом же деле поражение Романа Диогена объясняется обычной турецкой тактикой: турки притворились, что отступают, увлекли за собой в погоню византийскую армию и привели ее к месту засады. Их соратники, ждавшие там, внезапно вышли из укрытия и решили исход сражения. Именно после этого отряды, из которых состояла очень разнородная армия императора, предположили каждый, что другой его предал, утратили мужество и разбежались. Роман Диоген, проявивший величайшее мужество, попал в плен к Алп-Арслану. Впрочем, султан обращался с ним по-рыцарски вежливо и скоро его освободил.