Многим адресатам о. Иоанн посылал вместе с письмами выписки из творений Святых отцов. В те годы раздобыть какую-либо духовную книгу в СССР было возможно разве что по большому «блату», а имена святителей Игнатия (Брянчанинова) и Феофана Затворника говорили что-то только богословам. Поэтому цитаты из них воспринимались как настоящие откровения. А учитывая умение батюшки подбирать выписки, как нельзя подходившие к каждому конкретному случаю, это была настоящая духовная аптека. Так свое собрание цитат называл и сам о. Иоанн.
Кроме ответов на письма, была еще одна важная работа — составление проповедей. В отличие от множества легендарных «златоустов» русской Церкви, чьи проповеди лились словно песня, о. Иоанн в старости не был, что называется, записным проповедником. До лагеря он мог говорить с амвона экспромтом часами, но под конец жизни проповеди произносил уже не «от себя», а читал по-написанному. Такая практика завелась в 1962-м на Рязанщине, где председатель сельсовета в Борце требовал предоставлять ему текст каждой произнесенной в храме проповеди в письменном виде. О. Иоанн начал записывать свои проповеди в тетради, которых со временем накопилась целая гора. Благодаря этому надзору тексты почти всех его проповедей сохранились. И хотя встречались среди прихожан те, кто был недоволен длиной батюшкиных проповедей или находил их не особенно оригинальными и яркими, большинство людей, слышавших их, утверждали: слово о. Иоанна заставляло прихожан буквально трепетать. Сейчас у всех желающих есть возможность и услышать аудиозапись батюшкиных проповедей, и увидеть их съемку — она издана на многочисленных дисках, выложена в свободном доступе на YouTube. На данный момент, по подсчетам историка Церкви о. Алексия Пикова, известны 202 проповеди о. Иоанна, 93 из них изданы и еще 90 доступны в аудиоформате.
С 1981 года Татьяна Сергеевна Смирнова понемногу записывала и воспоминания батюшки. Вернее, это были эпизодические отрывки, призванные проиллюстрировать ту или иную жизненную ситуацию для посетителей. Со временем из них слагались главы книги, которую сам о. Иоанн назвал «Память сердца». Ему эта удивительная память была присуща всегда — он помнил всех, кто бывал у него со своими горестями; бывало так, что писавшие ему путали его имя (!), а о. Иоанн в ответе перечислял все жизненные ситуации, с которыми к нему обращался человек ранее, спрашивал о судьбе его родных, точно называя их по именам.
Именно так, из сугубо практических бесед, складывалась и другая, пожалуй, самая знаменитая книга о. Иоанна Крестьянкина — «Опыт построения исповеди». Сталкиваясь с огромным количеством людей, бывавших в монастыре у исповеди, батюшка наблюдал, что зачастую они не знают, как именно нужно исповедаться, что делать, что говорить и самое главное — попросту не осознают свою греховность. Сама по себе возникла потребность в своеобразной «азбуке исповеди». Для воспитанной в духе атеизма страны это был бесценный духовный учебник. Доходчивым и простым языком батюшка разъяснял в нем на примерах десяти заповедей и заповедей блаженства, из чего именно складывается грех, как он зарождается и почему покаяние необходимо для спасения. В основу книги были положены беседы, которые батюшка проводил на первой седмице Великого поста, после чтения покаянного канона Андрея Критского. «Опыт построения исповеди» в машинописных копиях широко распространялся в СССР, затем неоднократно переиздавался и, без преувеличения, является одной из наиболее популярных и доступных духовных книг на русском языке вообще.