В 1122 году начались сложности с Венецией, и ответственность за это лежала на Иоанне. При Алексее Венецианская республика была ближайшим союзником Византии, и, чтобы сохранить расположение венецианцев, в 1082 году император без колебаний уменьшил для них таможенные пошлины и даровал торговые привилегии, которыми не пользовались другие иноземцы. Благодаря этому венецианская колония в Золотом Роге разрослась до таких размеров, что стала вызывать недовольство византийцев, и, когда недавно избранный дож Доменико Микьель запросил подтверждения всех прежних привилегий, Иоанн наотрез отказался. Венецианцы пришли в ярость, и 8 августа 1122 года флагманский корабль дожа вышел из лагуны в сопровождении 71 военного корабля. Их целью был Корфу, который успешно выдержал полугодовую осаду; однако на протяжении следующих трех лет венецианцы проявляли активность в восточной части Средиземного моря: они захватили Родос, Хиос, Самос, Лесбос и Андрос, и когда в 1126 году они отправили войска, чтобы занять Кефалонию, Иоанн сдался. Эти агрессивные действия обошлись ему гораздо дороже, чем торговые привилегии, в которых он отказал венецианцам. В августе он подавил свое самолюбие и восстановил их в прежних правах.

К 1130 году, когда император вновь обратил внимание на Восток, ситуация изменилась к худшему. Эмир Гази теперь стал самой грозной силой в Малой Азии, и с 1130 по 1135 год Иоанн провел против него пять кампаний. Успех был настолько грандиозным, что по возвращении в столицу в 1133 году он устроил традиционный триумфальный въезд в город. Как приличествовало в тревожные времена, его церемониальная колесница, запряженная четырьмя белоснежными конями, была отделана серебром, а не золотом, но улицы, как всегда в таких случаях, украсили узорными тканями и парчой, а из окон свисали дорогие ковры. Весь путь от Феодосиевых стен до храма Святой Софии окаймляли трибуны, на которых стояли толпы людей; они громкими криками приветствовали процессию и императора, который шел пешком и нес крест. Иоанн поступил так же, как сделал до него Цимисхий: он отказался сесть в колесницу, отдав это почетное место иконе Богородицы, которая сопровождала его во всех походах.

Следующий год Иоанн снова провел в сражениях. К концу лета пришла весть о смерти эмира Гази, и в начале 1135 года император вернулся в столицу. За пять лет он вернул империи территории, которые она потеряла больше полувека назад. Турки не были побеждены, но прошло еще какое-то время, прежде чем они смогли перейти в наступление. Иоанн почти развязал себе руки, чтобы выступить против двух христианских государств, занимавших в то время территории, которые, по его мнению, принадлежали империи: армянского княжества Киликия и его близкого союзника, норманнского княжества Антиохия.