В конце 1610 г., оставив кафедру в Падуанском университете, Галилей вернулся во Флоренцию. Одним из мотивов было нежелание преподавать астрономию по Птолемею, как этого требовала программа университетского образования. Галилей хорошо понимал, что его открытия подтверждают теорию Коперника, книга которого были включена в «Индекс запрещенных книг». Во Флоренции он стал не только придворным математиком и философом, но и получил вскоре должность первого математика в Пизанском университете. Около 20 лет Галилей работал над своим главным трудом «Диалог о двух главнейших системах мира – Птолемеевой и Коперниковой», написанным на итальянском и опубликованном в 1632 г. Зная резко отрицательное отношение папского Рима к теории Коперника, ученый заручился разрешением цензоров тосканского двора и некоторых членов папской курии.

Главная тема «Диалога», участниками которого выступают три венецианских патриция, – физическая проблема движения, в частности вопрос о движении Земли вокруг своей оси и вокруг Солнца. Критическому анализу была подвергнута физика Аристотеля, его представления о том, что космос разделен на подлунную и надлунную сферы, имеющие разные виды движения – прямолинейное и круговое. Галилей, опираясь на теорию Коперника и собственные открытия (в их числе и открытие четырех фаз Венеры, сделанное в 1611–1612 гг.), пришел к выводу о единстве законов природы в надлунном и подлунном мирах, об отсутствии различий между ними. Главным аргументом он считал собственные открытия, которые, по его словам, «заставили бы Аристотеля, если бы он жил в наше время, переменить свое мнение». И все это потому, что «благодаря телескопу мы стали теперь ближе к небу в тридцать или сорок раз, чем Аристотель, и теперь можем заметить на небе сотню таких предметов, коих он не мог видеть». Идеи Коперника получили в «Диалоге» всестороннее обсуждение и убедительное обоснование. Были заложены основы и новой науки о движении – принципы независимости движения и его относительности, а также закон инерции.

После опубликования «Диалога» Галилей был вызван в Рим, в Святую службу, чтобы предстать перед судом инквизиции. В итоге книга была запрещена, а ее автор приговорен к пожизненному домашнему аресту после того, как он отречется от учения Коперника. Впрочем, для инквизиционного суда оказался важным не сам факт опубликования труда, который прошел цензуру, а то, что он нарушил предписание папской курии не излагать, пусть даже в косвенной форме, учение Коперника (это предписание было сделано Галилею еще в 1616 г.). Создавая книгу, в которой отвергались традиционные представления о неподвижности Земли как центра мира, Галилей не только нарушил запрет инквизиции на изложение идеи Коперника, но и проявил тем самым «злой умысел», за что мог быть объявлен еретиком и приговорен к сожжению. Его спасло письмо кардинала Беллармина, которое он получил еще в 1616 г., где Галилей освобождается от клеветнических наветов его главных врагов – доминиканских теологов. В итоге Галилей был признан не «закоренелым еретиком», а «грешником, подлежащим исправлению». Приговор был вынесен в 1633 г. – Галилей вернулся во Флоренцию, где подвергся домашнему аресту на своей небольшой вилле в Арчетри. Он продолжил работу над книгой по механике – «Беседы и математические доказательства, касающиеся двух новых отраслей науки» были опубликованы в 1638 г. в Лейдене в типографии Эльзевиров.