В 1935 г. под Киевом ТБ-3 перевезли 3700 десантников с техникой, а на маневрах в Белоруссии — 5700 человек. Весной 1936 года в районе станции Оловянная в Забайкалье 29-й тяжелобомбардировочной авиабригадой комбинированным способом (на парашютах и посадочным методом на «захваченный» десантом аэродром) был выброшен стрелковый полк со станковыми пулеметами, противотанковыми, полевыми и безоткатными («динамо-реактивными») пушками. За следующий 1938 год 29-я ТБАБ, использовавшаяся в качестве транспортной, перевезла на Дальнем Востоке 570 человек и 136,4 т грузов
Самолет принимал участие в японо-китайской войне, в боевых действиях у озера Хасан и на Халхин-Голе, активно использовался в советско-финской войне 1939—1940 годов (в ходе нее было потеряно две таких машины). Во время присоединения к Советскому Союзу Бессарабии 29 июня 1940 года самолеты ТБ-3 из 7-го ТБАП высадили парашютные десанты в Болграде и под Измаилом.
К июню 1941 года в строю ВВС РККА имелось 516 самолетов ТБ-3, еще некоторое количество этих машин числилось в гражданской авиации. До конца 1942 года самолет использовался в качестве бомбардировщика, в том числе в виде системы «Звено-СПБ», а также для грузовых рейсов, снабжения окруженных частей и заброски в тыл противника диверсантов-парашютистов. Он принял участие в десантных операциях под Вязьмой на завершающем этапе Московского сражения в январе-феврале 1942 года. На 22 декабря 1941 года в боевых частях на фронте насчитывалось 84 самолета ТБ-3, какое-то количество машин находилось в ремонте и в тыловых авиашколах. С начала 1942 года на вооружение советских ВВС начали поступать двухмоторные транспортные машины Ли-2 (ПС-84) и С-47 (военный вариант DC-3), однако несколько ТБ-3 еще успели принять участие в высадке воздушного десанта у села Великий Букрин в сентябре 1943 года во время сражения за Днепр. Известно, что на 1 июля 1945 года в боевом составе 52-го гвардейского тяжелобомбардировочного авиаполка еще числилось 20 машин ТБ-3. Гражданский вариант этого самолета, имевший обозначение Г-2, использовался до конца 1940-х годов.