На людях отношения между Гейдрихом и Канарисом были безупречными. Они дружили семьями, наносили визиты в дома друг друга, пили чай в гостиной. Можно представить такую картину — жены Канариса и Гейдриха любезно разговаривают в салоне, их дети играют тихонько в уголке, Гейдрих виртуозно играет на скрипке, а тем временем Канарис, одев поверх костюма фартук, готовит сочный гуляш… Забавно, не правда ли?
Вся эта идиллия была лишь на поверхности. А в действительности все было не так. Абвер находился в руках Канариса, и хотя подчинялся Генштабу и военному министру, сотрудничал с политической полицией нацистов неохотно. Абвер ждал момента выступить против спецслужбы нацистской партии. Вскоре после событий 30 июня 1934 года и несмотря на принятие клятвы 2 августа, в отношениях между армией и полицией возникла трещина. Генералы стали осознавать, что режим их обманул, армия теряла политический вес и престиж в рейхе. Она не влияла на принятие важных политических решений как во внутренней политике, так и в международной. Более того, они поняли, что партия ведет подковерную войну с армией. Так, в 1936 году Гейдрихом была развернута клеветническая кампания, направленная против фон Фритча и Генштаба, когда он выдумал, что
Заговор был воображаемым, но трещина в отношениях осталась. Генералов беспокоили последствия «идеи жизненного пространства» в Европе, которую проводила Германия. Это была идея Гитлера, и для ее реализации без начала войны нельзя было обойтись. Гитлер понимал риск, на который шел, но высшее командование, мнение которого разделял Канарис, опасалось вооруженного столкновения с западными демократическими странами.
5 ноября 1937 года состоялось секретное совещание, на котором точки зрения генералитета высшего командования и Гитлера разошлись. В тот день Гитлер вызвал к себе в канцелярию Геринга, фон Бломберга, фон Фритча и министра иностранных дел фон Нейрата. Рассказывает Хоссбах: