Поскольку в крыле уже были заложены силовые нервюры, пришлось пойти испытанным путем, даже зная его недостатки: моторы объединили в тандемы и закрепили не непосредственно на консоли, а подвесили под ними на фермах. Еще одной особенностью машины было управление с сервокомпенсатором в канале курса (стабилероном) по типу английских бомбардировщиков «Болтон-Пол». В таком виде самолет был построен заводом № 39, и 30 июня 1931 года летчик В. Бухгольц выполнил на нем первый полет. Устойчивость и управляемость ЦКБ-8 были в норме, военные отмечали более рациональное размещение оборонительного вооружения — 4 стрелковых точки со спаренными пулеметами ПВ-1 давали более полное перекрытие сферы обстрела, чем 5 точек самолета АНТ-6. Главным преимуществом бомбардировщика смешанной конструкции перед цельнометаллическим была низкая себестоимость, и было решено построить войсковую серию из 5 машин. Но в очередном испытательном полете 29 мая 1932 года разрушилась рама одного из задних моторов и, хотя М.М. Громов произвел нормальную посадку, самолет так и не восстановили.
В то время уже началось массовое пополнение советской авиации самолетами ТБ-3. В 1933 году тяжелобомбардировочные бригады начали сводить в бомбардировочные авиационные корпуса, которым ставятся задачи как поражения важных тыловых объектов, так и обеспечение наступательных операций сухопутных фронтов. В 1936 году в СССР формируются авиационные армии особого назначения, АОН, включавшие 250 самолетов всех классов, в т. ч. не менее 150 ТБ-3.
Дислокация ТБ-3 четко указывала два вектора внешних угроз: большинство их было сосредоточено на западных границах, в Западном (Белоруссия), Киевском (Украина) и Ленинградском особых ВО. Эти приграничные округа именовались особыми. Самолеты ТБ-3 поступили и в части ВВС, базировавшиеся на территории Забайкальского и Особого Дальневосточного ВО.
Особенно неспокойно было в Приморье, назревал прямой вооруженный конфликт с Японией. Советский Союз в 1937 году направил военную помощь, в том числе и летчиков-добровольцев в Китай, который подвергся японской агрессии, а летом 1938 года вспыхнули бои с японцами у озера Хасан на границе с Кореей, которая также была в те годы под властью Японии. Страна Восходящего Солнца заявила о территориальных претензиях к СССР и, недолго думая, перешла к делу.
В боях на Хасане приняла участие и оперативная группа тяжелых бомбардировщиков, имевшая 60 ТБ-3. 6 августа 1938 года совместно с фронтовыми бомбардировщиками СБ под прикрытием истребителей она выполнила массированный налет на позиции неприятеля. Но плохая погода в дальнейшем препятствовала прицельному бомбометанию, и ТБ-3 в основном занимались транспортными и санитарными перевозками.
Поражение не остановило агрессора, и через год отношения с Японией снова обострились. На сей раз война началась на территории Монголии, нашего союзника в то время, у реки Халхин-Гол. Почти все время погода была летной, и авиация применялась гораздо интенсивнее, но наличие у противника современных истребителей И-97 (Ki 27) не позволяло использовать ТБ-3 днем, и 23 самолета, сведенные в отдельную авиагруппу, летали ночью, производя беспокоящие налеты группами от одной до трех троек, каждая машина брала 20 бомб ФАБ-100 либо 8 ФАБ-250.
Участие ТБ-3 в войне с Финляндией зимой 1939–1940 годов было еще более ограниченным, а в освободительных походах в западные районы Украины и Белоруссии, а также в Бессарабию эти устаревшие гиганты уже использовались только как транспортники.
Так что же, промышленность ничего не делала, чтобы улучшить основной советский бомбардировщик?
В 1931 году в Центральном авиамоторном институте (ЦИАМ) под руководством А. Микулина был построен первый мощный авиамотор советской разработки М-34. На номинале он развивал 750 л.с., конструкторы же обещали поднять мощность до 1000 л.с. В 1933 году М-34 установили на один ТБ-3, однако рост мощности не вылился в рост летных данных. Причиной оказалось толстое крыло, его высота была ненамного меньше диаметра винтов, что снижало их КПД и тягу. Но просто увеличить диаметр воздушного винта нельзя, т. к. при этом скорости концов лопастей превысят скорость звука, и это тоже вызывает падение КПД. Микулин знал об этой проблеме и одновременно с ЦАГИ предложил установить на моторы редукторы, понижающие обороты на выходном валу, и можно будет поставить винты диаметром 4,1 вместо 3,18 м, дающие значительно большую тягу. За счет этого удалось на 2 т увеличить взлетный вес, взяв больше топлива, и получить дальность полета 2500 км с двумя тоннами бомб. Такого бомбардировщика тогда не было ни у кого.
Тем временем в ЦИАМ для М-34 спроектировали приводной центробежный нагнетатель, повысивший высотность, и в 1934 году редукторный нагнетательный мотор М-34РН пошел в серию и начал устанавливаться на серийных самолетах ТБ-3. Одновременно удалось облагородить форму мотогондол, снизив их сопротивление.