Сочинская шифровка и смена руководящего наркомвнудельского караула предшествовали тут же начавшемуся расширению и ужесточению репрессий. Через два дня после появления в кабинете на Лубянке Ежова, 29 сентября, Сталин подписал составленную Кагановичем директиву Политбюро «Об отношении к контрреволюционным троцкистско-зиновьевским элементам». Отныне их надлежало «рассматривать как разведчиков, шпионов, диверсантов и вредителей», в отношении которых «необходима расправа». Фактически применение директивы не ограничилось только указанными в её названии «элементами», но и открывало шлюзы вспучивавшейся волне репрессий.
Она все ближе подходила к находившемуся теперь не у дел Рыкову. Это проявлялось в доходивших до него известиях об арестах работавших с ним товарищей, в других, порой неожиданных фактах. Так, 28 октября передовая статья «Правды» вдруг представила его вопреки истине как меньшевистского прихвостня, сторонника явки Ленина летом 1917 года на суд Временного правительства. 4 ноября Рыков направил в связи с этим протестующее личное письмо Сталину.
Видел ли Рыков Сталина в те недели? Если и видел, то только издали — в зале Большого театра на торжественном заседании в честь XIX годовщины Октября, а затем во время работы VIII Чрезвычайного съезда Советов СССР (25 ноября — 5 декабря), на котором Рыков должен был присутствовать как член ЦИК. Стенограмма съезда не отразила его присутствия, так что если он и был на его заседаниях, то только молчаливо наблюдал принятие «сталинской конституции». В её написании участвовал Бухарин и отчасти Радек. Один из них ко времени съезда уже находился во внутренней тюрьме НКВД, другого неотвратимо подводили вместе с Рыковым к её порогу.
Именно в последние дни съезда оба они едва не оказались за этим порогом. Очевидно, воспользовавшись тем, что в Москву съехались все крупные партийные руководители, 4—7 декабря был проведен пленум ЦК ВКП (б). Главная же причина его созыва заключалась в том, что Ежов, выступивший с докладом «Об антисоветских, троцкистских и правых организациях», считал, что подведомственные ему органы «выбили» из арестованных достаточный материал против Бухарина и Рыкова.
Однако оба они сумели показать несостоятельность предъявленных им обвинений. «Я утверждаю, — заявил Рыков, — что все обвинения против меня с начала до конца — ложь». В итоге пленум принял предложение Сталина: «Считать вопрос о Рыкове и Бухарине незаконченным. Продолжить проверку и отложить дело решением до последующего пленума ЦК».
Тем самым Ежову и его аппарату было, по существу, дано указание усилить свою «деятельность» в отношении бывших «правых». Их аресты, получение нужных «показаний» приобрели широкий характер. За четыре месяца, прошедшие после назначения Ежова, он положил на служебный стол Сталина, кабинет которого теперь переместился со Старой площади в Кремль, около 60 протоколов допросов бывших «правых». Копии подобных протоколов спецкурьеры регулярно доставляли на квартиры Рыкова и Бухарина, резко усугубляя их моральное состояние и обстановку безысходности.