Это было практически невыполнимое задание, ставшее еще более сложным из-за нехватки информации и надежных осведомителей, но Флинн все же почти справился с ним. В качестве наглядного примера усердной детективной работы, в которую он всегда верил, можно привести то, что его люди обнаружили этикетку на обрывке одежды у развалин дома Палмера и, наведавшись в каждую прачечную в каждом из восьми городов, в которых были взорваны бомбы, со временем выследили человека, ответственного за взрыв. Круг подозреваемых в организации взрыва на Уолл-стрит они сузили до такой степени, что Флинн с уверенностью отнес подозреваемых к последователям анархиста по имени Луиджи Галлеани. Он даже вызвал своего старого осведомителя Сальваторе Клементе и отправил его в Италию с тем, чтобы проникнуть в банду. Клементе, выдав себя за американского радикала итальянского происхождения, завязал полезные контакты, но все же не сумел добраться до Галлеани, который бежал в Швейцарию. Флинн продолжал попытки найти его, но ему так и не удалось добыть убедительные доказательства, которые можно было бы использовать в суде.
К началу 1921 года общественное мнение обернулось против Бюро расследований. Оптимистичные заявления Флинна, при любом удобном случае утверждавшего, что дело находится на грани раскрытия, казались все более пустыми. Люди требовали арестов, а не обещаний и теорий, а Бюро не могло их произвести. Поддержка в Департаменте юстиции также ослабла, поскольку Флинн не смог решить проблему резкого падения морального духа среди своих сотрудников. Что еще хуже, Гувер предпринял серию рейдов, в результате которых десять тысяч подозреваемых радикалов были задержаны и более пятисот из них оказались депортированы без убедительных доказательств того, что они вообще были преступниками. «Рейды Палмера», как их называли, с точки зрения общественности обернулись настолько сокрушительным провалом, что при новой администрации Гардинга Флинн не мог сохранить свою работу. В августе 1921 года на посту директора Бюро расследований его сменил другой известный детектив, Уильям Бёрнс – человек, прославившийся благодаря в равной степени как поимке радикалов, взорвавших здание редакции
Это был печальный конец выдающейся карьеры. Флинн оставался уверенным в том, что находится на грани раскрытия дела Уолл-стрит. Безусловно, он подобрался к разгадке ближе, чем гораздо более известный Бёрнс, которому также не удалось произвести аресты и который с самого начала был убежден, что во всем виноваты профсоюзы, от всей души им ненавидимые. Потеря жалованья в размере 7500 долларов стала ощутимым ударом для человека, которому нужно было кормить большую семью. (Как однажды заметил Палмер, «он сказал мне, что у него с полдюжины маленьких Флиннов, а он столь увлеченно работал на правительство, что не удосужился ничего отложить».) Флинн заработал немного денег, открыв собственное детективное агентство в Нью-Йорке, но, чтобы свести концы с концами, ему все же пришлось обратиться к другому виду деятельности, в котором он оказался действительно хорош. До конца своих дней он зарабатывал на жизнь писательством.