Утром 6 апреля с востока и юга войска 4-й и часть сил 9-й гвардейских армий начали штурм Вены. Одновременно с этим соединения 6-й гвардейской танковой и главные силы 9-й гвардейской армий обходили город с запада. Им пришлось преодолевать горно-лесистый массив Венского Леса. Обойдя Вену, они 7 апреля западнее ее вышли к Дунаю. Город был охвачен с трех сторон: востока, юга и запада.
Следует отметить, что сделанные разъяснения дали результат, и жители Вены, несмотря на все призывы немецкого командования, не только не оказывали сопротивления советским войскам, но и принимали участие в борьбе с гитлеровскими оккупантами.
Генерал Вермахта Курт фон Типпельскирх по этому поводу пишет:
А Гитлер, которому было доложено о происходившем, ответил из Берлина:
С немецкой стороны советским войскам противостояла группа армий «Юг», возглавляемая генералом Отто Вёлером, а затем генералом Лотаром фон Рендуличем.
Гитлер не собирался сдавать Австрию и Вену без боя. Сюда были переброшены 6-я танковая армия СС и ряд других подразделений. На улицах и площадях Вены были построены баррикады, в домах оборудованы огневые точки. Мосты через Дунай и каналы заминировали.
Сменивший Отто Вёлера генерал-полковник фон Рендулич считался специалистом именно по обороне. И он активизировал распространение слухов о том, что якобы уже началась насильственная эвакуация населения из восточных районов Австрии в Сибирь. Ко всему прочему он обратился к жителям Вены с призывом бороться «до последней возможности».
Бои на подступах к Вене приняли ожесточенный характер. Противник сильным огнем, контратаками пехоты и танков старался не допустить прорыва советских войск к городу.
Тем не менее уже 6 апреля 1945 года подразделения 3-го Украинского фронта завязали уличные бои на окраинах города. После этого к операции были привлечены и войска 2-го Украинского фронта, которые должны были обойти австрийскую столицу с севера.