Но Вейе снова переусердствовал. Кое-кто из нацистской верхушки пожаловался Гитлеру, что Вейе имеет наглость их шантажировать. Гиммлеру пришлось отнекиваться. Он распорядился арестовать Вейе, лишить его звания и отправить в концлагерь. Там Вейе стал старшим надсмотрщиком, — «обер-капо», в подчинении которого находились три тысячи заключенных-евреев, они боялись его больше, нежели своих эсэсовцев-охранников. В Заксенхаузене Вейе находился до самого начала Второй мировой войны, когда его выпустили на свободу. Чтобы вернуть себе имя, он был вынужден пойти служить в штрафной батальон СС и воевал сначала во Франции, затем в России. Сражаясь против советских партизан, Вейе наверняка удостоился похвалы своего начальства. Вскоре его повысили до младшего офицера, а затем вернули прежнее звание. В 1943 году Вейе уже носил майорские погоны. Годом позже, снова оказавшись в Германии, он был в числе тех, кто арестовывал заговорщиков, покушавшихся на жизнь Гитлера. В апреле 1945 года Вейе поучаствовал в работе расстрельного взвода в концлагере Флоссенбург — кое-кто из заговорщиков вскоре оказался там на мясницких крючьях.

За свои «геройства» Вейе удостоился последнего повышения — чина оберштурмбаннфюрера СС. Но уже через несколько недель, с военным удостоверением на руках, в котором он значился как бывший унтер-офицер, Вейе сдался в Баварии американцам. Кто он такой на самом деле, осталось никому не известным — Вейе удалил эсэсовскую татуировку под мышкой, выстрелив в себя холостым патроном. Процедура оказалась болезненной, зато эсэсовский знак, «Знак Крови», навсегда исчез под свежим шрамом. Вейе вскоре освободился из лагеря для военнопленных и пошел надзирателем в тюрьму Тегель, где американцы держали за решеткой бывших нацистских преступников. В 1950 году Вейе пришлось пережить несколько неприятных минут. Его узнала вдова одного человека, которого он выдал гестапо и который затем погиб в концлагере Заксенхаузен. Вейе предстал перед американским военным трибуналом, но ему чудом удалось выкрутиться. Он был осужден на год тюрьмы, но отсидел всего семь месяцев. В конечном итоге, в 1952 году, работая в «детективном агентстве», он познакомился с капитаном фон Вальтером и предложил ему свои услуги.

Вейе действительно оказался мастером на все руки. В частности, зарекомендовал себя непревзойденным «коллекционером». Вскоре он уже возглавил группу из шести, а затем и десяти агентов и курьеров. Он установил несколько тайников в Восточном Берлине — в Ораниенбурге, Фельтене и Бернау — и подготовил несколько толковых агентов. Один из них, по имени Холли Зенг-бейль, совершил пятнадцать удачных вылазок в советскую зону и одну в Польшу.