На этом этапе папа римский сумел убедить делегатов перебраться во Флоренцию. Его мотивы носили главным образом финансовый характер: во Флоренции можно рассчитывать на помощь семьи Медичи; однако этот переезд принес и другие преимущества. Когда в феврале 1439 года возобновились заседания, усталые, встревоженные, тоскующие по дому и голодные греки стали проявлять большую готовность к компромиссам. К концу марта они согласились, что латинская формула, согласно которой Святой Дух исходит от Отца и от Сына, означает то же самое, что и недавно принятая греческая формула, согласно которой он исходит от Отца через Сына. Устранив с пути филиокве, они быстро уладили все прочие важные вопросы. К середине лета соглашение было практически достигнуто, и 5 июля официальный декрет об унии (представлявший собой скорее утверждение позиции латинян) был подписан всеми православными священниками, за исключением митрополита Эфесского, который остался непреклонен, но которому император запретил налагать вето. После этого латиняне поставили под документом свои подписи, и на следующий день указ официально объявили в кафедральном соборе Флоренции на латыни и на греческом языке. Латинская версия начиналась со слов Laetentur coeli – «Да возрадуются небеса». Вскоре обнаружилось, что поводов для радости у небес мало.

Иоанн Палеолог вернулся в Константинополь лишь в феврале 1440 года. Возвращение было печальным: за несколько недель до его приезда умерла его любимая третья жена Мария Трапезундская, а Флорентийский собор уже повсеместно осуждали, понося подписавших его как изгоев и предателей веры; произошло и несколько случаев физического нападения. Патриархи Иерусалима, Александрии и Антиохии отреклись от делегатов, поставивших под договором подписи от их имени, а героем дня стал митрополит Эфесский. Эта всеобщая антипатия серьезно ослабила положение императора, и летом 1442 года его вечно жаждущий власти брат Димитрий попытался захватить трон во имя православия. Он потерпел неудачу, но попытка переворота отражала более серьезное недовольство.

Папа Евгений IV предпочел не заметить этих событий. Когда церковь теоретически стала единой, он должен был организовать обещанный крестовый поход против врагов Византии. Необходимость в этом день ото дня становилась все более очевидной. Смедерево, большая крепость на Дунае примерно в 25 милях (40,2 км) к юго-востоку от Белграда, сдалась в 1439 году после трехмесячной осады; в 1441 году армия султана вошла в Трансильванию, и не было сомнений в том, что следующей станет Венгрия. Таким образом, именно венгры стали основной частью объявленного папой крестового похода; его вождем стал венгерский король Ласло I, а главнокомандующим – блестящий венгерский военачальник Янош Хуньяди. Необходимый флот обещали предоставить венецианцы, герцог Бургундии и сам папа; корабли должны были проплыть по Босфору до Черного моря, а оттуда подняться по Дунаю и встретиться с армией, которая одновременно выйдет с северо-запада.