После войны он по-своему старался подражать Гелену. Подобно великим державам, небольшие страны пытались внедрить своих агентов на территорию Западной Германии. Так, например, правительство Голландии снарядило специальную миссию. В ее состав входил майор Ян Эланд, в прошлом ювелир из Амстердама, а позднее участник движения Сопротивления. Голландская разведка занялась поиском бывших гестаповцев и в лице майора Хайнца заполучила добровольного помощника. Голландскую миссию в конце концов отослали домой, однако Эланд так вошел во вкус разведдеятельности, что остался в Германии и стал при Хайнце кем-то вроде доверенного лица и партнера. Они создали небольшое «информационное бюро», которые тогда множились как грибы после дождя. Их офис располагался в Лихтерфельде, в Западном Берлине. Отсюда они начали снабжать американцев, англичан и французов последними данными относительно расположения советских частей на территории Восточной Германии. Эланд также предлагал свои услуги в качестве источника информации о коммунистических агентах. Угроза коммунистического шпионажа, попытки реанимации нацизма в западных оккупационных зонах — все это не давало покоя военной администрации союзников. В американской зоне этим занималась СИС. В британской — МИ-5 и специальный отдел Скотленд-Ярда. Однако в новой, независимой Германии борьбу со всем этим злом должно было взять на себя Федеральное ведомство по охране конституции.

Американцы были отнюдь не в восторге от того, что геленовское детище из-под их крыла переходит в недра Федерального ведомства. Они предпочли бы, чтобы Гелен занимался контршпионажем (ведь отдел III/F был создан по рекомендации именно Даллеса). Англичане, наоборот, наблюдали за деятельностью американо-немецкого тандема в Пуллахе, не скрывая зависти. Верховный комиссариат оккупационной зоны должен был либо одобрить, либо отвергнуть кандидатуру, выдвинутую Аденауэром на пост главы вновь созданного Федерального ведомства. Гелен немедленно составил список кандидатов, но британский Верховный комиссар, Стюарт Мензис, оповестил своих приятелей в Форин Оффис, в особенности сэра Дональда Грейнера, возглавлявшего немецкий отдел. Мензис высказался против назначения на столь ответственный пост кого-нибудь из бывших абверовцев или гестаповцев, которыми и без того уже кишело геленовское ведомство.

Основным условием назначения нового главы Ведомства по охране конституции являлось отсутствие у него преступного нацистского прошлого. В конце концов министр по вопросам Германии в правительстве Аденауэра христианский демократ и профсоюзный лидер Якоб Кайзер предложил кандидатуру, соответствовавшую вышеозначенному требованию, которая подходила и по другим статьям и, что самое главное, вполне могла устроить придирчивых англичан. Этой кандидатурой оказался Отто Джон (Йон), сорокалетний юрист. Когда Гитлер пришел к власти, он работал юрисконсультом в «Люфтганзе». Он был также дружен со знаменитым антинацистом пастором Дитрихом Бонхеффером. В свое время Йон поддержал тех генералов, консервативных политиков и немногих профсоюзных лидеров, которые пытались сбросить Гитлера и заменить нацистский режим «либеральной монархией» во главе со вторым отпрыском бывшего кронпринца Людвигом Фердинандом. Он был близким приятелем Йона, и поэтому тот играл в заговоре отнюдь не последнюю роль. После марта 1942 года Йон поддерживал тайные контакты с британской и американской разведками. Как служащий «Люфтганзы», он не подлежал призыву в армию, зато имел возможность свободно разъезжать между Берлином, Лиссабоном и Мадридом. Там происходили его встречи с агентами западных союзников, что позволило держать их в курсе относительно планов заговорщиков. В начале 1944 года группа офицеров немецкого Генштаба во главе с фельдмаршалом фон Вицлебеном, генералом Беком и полковником фон Штауффенбергом строила планы физического устранения Гитлера. От нескольких попыток пришлось отказаться, но в конце концов 20 июля того же года Штауффенберг подложил бомбу под стол фюрера в его ставке «Волчье Логово». Вечером того же дня, после того как покушение провалилось и последовали аресты заговорщиков, Отто Йон решил бежать. Все другие участники заговора, в том числе и его родной брат Ганс, были казнены, сначала пройдя через все круги гестаповского ада.