Иоанн унаследовал лучшие качества своего родителя. «Это был человек, который и царством управлял прекрасно, и жил богоугодно, и по нравственности не был ни распутен, ни невоздержан» (Хон., [59, т. I, с. 60]). За красоту и величие духа император получил у византийцев прозвище Калоиоанна, т. е. «прекрасного Иоанна». Он не терпел сквернословия, вообще грубости и, где мог, старался обходиться без обычных тогда пыток и казней.

Большую часть своего четвертьвекового правления Иоанн II провел в походах и войнах. В 1122 г. Дунай перешли печенежские орды. Император выступил им навстречу, и на одной из равнин Фракии противники начали жестокий бой. Легкие кони кочевников уносили их от длинных пик катафрактов, печенеги окружили свой лагерь телегами и молниеносно скрывались за их линию, лишь только Иоанн II во главе ромейской тяжелой кавалерии направлял на них удар. Рыцари долго теряли силы без видимого результата, пока, наконец, варяжская пехота не разбила повозки секирами. Лагерь кочевников был захвачен, большая часть их погибла, а остатки, вместе с женщинами и детьми, попали в плен. То был последний набег печенегов — с этой опасностью Иоанн II Комнин покончил навсегда, а памятный день еще долгие годы отмечался ромеями как праздник. Тогда же василевс поссорился с венецианцами, чья алчность не знала границ, и выслал их купцов из пределов империи. В ответ флот республики совершил ряд нападений на острова Родос, Хиос и Самос. Конфликт длился четыре года и завершился признанием Византией своего поражения. Другие западные кампании Иоанна оказались успешнее. Ему удалось покорить сербов Рашки (1124) и отразить натиск венгерского короля Стефана (1128). В 1130 г. королем Сицилии стал Роже II, младший брат Роберта Гвискара. Василевс сумел удержать этого яростного врага Византии от нападений с помощью мастерской дипломатической игры, опираясь на союзы с другими западными государями.

Начиная с тридцатых годов Иоанн II основную тяжесть внешней политики Византии перенес в Малую Азию. Используя тактику своего отца, он постепенно отодвигал границу с сельджуками к востоку и югу. Император отобрал у турок важные в стратегическом отношении крепости Кастамон и Гангры (1133), разбил ополчение иконийского султана (1135) и захватил ряд городов Киликийской Армении. Князь Антиохии Раймунд и король Иерусалима Фульк униженно выпрашивали императорской помощи против мусульман. В 1137 г. в союзе с ними ромеи осаждали Алеппо. Двумя годами позже Иоанн II, на этот раз без «франков», попытался овладеть Неокесарией, но вынужден был отступить из-за предательства своего брата, севастократора Исаака. Этот человек еще при жизни Алексея I затевал мятеж, бежал из империи на Восток, долгое время жил в Иконии и лишь незадолго до описываемых событий вернулся в Константинополь. Командуя частью армии, Исаак вторично бежал к сельджукам и выдал им план кампании. Свою роль в поражении ромеев под Неокесарией сыграла и безрассудная отвага наследника престола Мануила, который затеял без ведома отца крупное сражение, обескровившее войска (за что и был выпорот разгневанным Иоанном II).