Накануне поздно вечером Успенский неожиданно вернулся в наркомат в штатском, с чемоданом. Работал всю ночь, утром ушел пешком и… пропал. Дома его не оказалось, на работу он не вернулся. В его кабинете лежала записка: «Ухожу из жизни. Труп ищите на берегу реки». Содержание странное, если учесть совет искать труп в определенном районе.

На берегу Днепра действительно обнаружили… нет, не тело утопленника, а одежду Успенского. По непонятной прихоти самоубийца решил отправиться на тот свет раздетым. Одно уж это заставило предположить, что нарком постарался уйти не из жизни, а от карательных органов. Догадка подтвердилась, ибо поиски тела в реке и на обоих берегах окончились безрезультатно.

Начались поиски несостоявшегося утопленника. А он тем временем метался по стране с поддельными документами. Арестовали его жену, и она вспомнила, что видела дома паспорт на имя Шмаковского с фотографией мужа. Успенского задержали в апреле 1939 года на Южном Урале. По его словам, предупреждение об аресте он получил от Ежова. Хотя по другой версии, нарком подслушал разговор, в котором Хрущев предлагал Сталину арестовать Успенского.

Настал конец «ежовщине», унесшей многие десятки тысяч жизней и сломавшей сотни тысяч судеб. 19 ноября 1938 года Ежов был снят. Через неделю на его вакантный пост был назначен Берия.

В том же ноябре при загадочных обстоятельствах умерла жена Ежова Е.С. Хаютина-Файгенберг. Ее первый муж, директор Харьковского инструментального завода А.Ф. Гладун, был арестован весной 1939 года и показал, что Хаютина редактировала журнал «СССР на стройке», ответственным редактором которого являлся Пятаков, и была тесно связана с троцкистами.

Ежов пил, опаздывал или совсем не являлся на работу, но все еще оставался наркомом водного транспорта. Председатель Совнаркома СССР Молотов вынес ему письменный выговор за нарушение трудовой дисциплины.

6 апреля 1939 года был арестован бывший первый заместитель Ежова по НКВД М.П. Фриновский. На очереди был сам бывший «железный нарком», долгое время державший страну в «ежовых рукавицах». Через три дня его арестовали при выходе из кабинета Маленкова в ЦК ВКП(б) на Старой площади.

Оставшиеся месяцы жизни Ежов провел в тюрьме. В начале февраля 1940 года перед прочтением расстрельного приговора подсудимый признал: «Я почистил 14 тысяч чекистов. Но огромная моя вина заключается в том, что я мало их почистил». На расстрел он шел с пением «Интернационала».

Мало ли «почистил» Ежов? Были репрессированы: все 7 комиссаров государственной безопасности, 10 из 13 комиссаров 2-го ранга (один умер), 15 из 20 комиссаров 3-го ранга (3 покончили жизнь самоубийством и 1 бежал за границу), 39 из 49 старших майоров (один покончил жизнь самоубийством). «Ежовщина» ударила главным образом по представителям высшего и среднего звена армии, НКВД, партии, госаппарата. Положение рядовых партийцев и беспартийных продолжало улучшаться.