Умер Иван Петрович при обстоятельствах самых загадочных. Однажды почувствовал обыкновенное «недомогание гриппозного характера». Зная о своем организме больше, чем кто-либо, а «скроен» он был, по мнению современников, «более чем на сто лет», значения болезни не придал. Однако поддался уговорам родных и врача пригласил. Между тем вскоре недомогание отступило, Павлов почувствовал себя хорошо, был необыкновенно взволнован и возбужден. Ему вспрыснули морфий, он успокоился и уснул. Умер Павлов во сне. И тут родилась легенда о том, что умереть ему помогли. В преддверии 1937 года органам НКВД вовсе не нужен был человек, который оставался единственным, кто «открыто критиковал сталинские злодеяния».

После его смерти говорили, что «умер последний свободный гражданин России», и передавали друг другу легенду о том, как умирал великий ученый. Он собрал всех своих учеников и стал диктовать ощущения человека при переходе из одного мира в другой. Последними его словами были: «Ну вот, коллеги, я и умер, – но тут же тихо продолжил, – но заметьте, щетина и ногти у меня продолжают расти». В этот момент, как утверждает легенда, в дверь постучали. Некий посетитель просил Павлова принять его. «Академик Павлов занят, – сказали ему, – он умирает».

Вскоре после смерти Павлова Знаменская церковь была закрыта, а в 1940 году снесена. После войны на месте снесенной церкви был разбит сквер с перенесенным с Пулковского шоссе томоновским фонтаном в центре. Этот фонтан в свое время находился в Московском парке Победы, а ныне установлен на Сенной площади.

Наконец, в 1950-х годах на месте снесенной Знаменской церкви был выстроен безликий наземный павильон станции метро «Площадь Восстания». Павильон увенчан куполом со шпилем, более похожим на корабельный флагшток, на который, говорят, до сих пор нет-нет да и перекрестятся проходящие мимо старушки. А еще верующие люди утверждают, что здесь, возле станции метро, на месте которого некогда стоял приходской храм, можно увидеть призрак академика Ивана Петровича Павлова.