Новое КБ получило от УММ РККА задание: «К 1 августа 1932 года разработать и построить новый 35-тонный танк прорыва типа ТГ». Этой машине присвоили индекс Т-35. 28 февраля 1932 года заместитель начальника УММ РККА Г.Г. Бокис докладывал М.Н. Тухачевскому: «Работы по Т-35 (бывший ТГ) идут ударными темпами, и срыва сроков окончания работ не намечается…» При проектировании Т-35 учитывался полуторалетний опыт работы над ТГ-1, а также результаты испытаний немецких танков «Гросстрактор» на полигоне под Казанью и материалы комиссии по закупке бронетанковой техники в Великобритании.
Сборку первого прототипа, получившего обозначение Т-35-1, закончили 20 августа 1932 года, а 1 сентября он был показан представителям УММ РККА во главе с Бокисом. На присутствующих машина произвела сильное впечатление. Внешне Т-35 оказался похожим на английский опытный пятибашенный танк A.I.E.I «Индепендент» фирмы «Виккерс», построенный в 1929 году. Традиционно считается, что Т-35 создан по типу «Индепендента», однако в архивных документах нет данных о том, что упомянутая выше комиссия, находившаяся в Англии в 1930 году, интересовалась этой машиной. Не исключено, что советские конструкторы пришли к пятибашенной схеме самостоятельно, независимо от их английских коллег.
В главной башне Т-35-1 должна была размещаться 76-мм танковая пушка, повышенной мощности ПС-3, и пулемет ДТ в шаровой установке. Но из-за отсутствия орудия в танке смонтировали его макет. В четырёх малых башнях одинаковой конструкции располагались (по диагонали) две 37-мм пушки ПС-2 и два ДТ. Ещё один пулемет ДТ установили в лобовом листе корпуса.
Ходовая часть машины применительно к одному борту состояла из шести опорных катков среднего диаметра, сгруппированных попарно в три тележки, шести поддерживающих роликов, направляющего и ведущего колёс. Тележки опорных катков были сконструированы по типу подвески танка «Гросстрактор» фирмы «Крупп». Следует отметить, что советские конструкторы значительно улучшили принцип работы подвески.
Моторно-трансмиссионную группу Т-35-1 изготовили с учётом опыта работы над танком ТГ-1. Она состояла из двигателя М-6, главного фрикциона, коробки передач с шестернями шевронного зацепления и бортовых фрикционов. Для управления ими использовалась пневматическая система, что делало процесс вождения машины массой 38 т чрезвычайно лёгким. Правда, в ходе испытаний осенью 1932 года выявился ряд недостатков в силовой установке танка. Кроме того, стало ясно, что для серийного производства конструкция трансмиссии и пневмоуправления является слишком сложной и дорогой. Поэтому работы по Т-35-1 прекратили, и в конце 1932 года опытный образец передали Ленинградским бронетанковым курсам усовершенствования командного состава (ЛБТКУКС) для подготовки командиров.
В феврале 1933 года танковое производство завода «Большевик» было выделено в самостоятельный завод № 174 имени К.Е. Ворошилова. На нём КБ Н.В. Барыкова преобразовали в Опытно-конструкторский машиностроительный отдел — ОКМО, который и занялся, с учётом недостатков первого, разработкой второго опытного образца — Т-35-2.
По указанию И.В. Сталина была произведена унификация главных башен Т-35 и Т-28. Т-35-2 получил также новый двигатель — М-17, другую трансмиссию и коробку передач. В остальном же он практически не отличался от своего предшественника, если не считать изменённой конструкции фальшборта и настоящей 76-мм пушки ПС-3.
Сборку машины завершили в апреле 1933 года, 1 мая она прошла во главе парада по площади Урицкого (так в те годы называлась Дворцовая площадь) в Ленинграде, а Т-35 -1 в это время высекал искры из брусчатки Красной площади в Москве.
Параллельно со сборкой Т-35-2 в ОКМО велась разработка чертежей серийного танка Т-35А. Причём первый рассматривался лишь как переходный, идентичный в части трансмиссии серийному образцу.
В соответствии с Постановлением Правительства СССР в мае 1933 года серийное производство Т-35 передавалось на Харьковский паровозостроительный завод имени Коминтерна (ХПЗ). Туда в начале июня 1933 года в срочном порядке отправили ещё не прошедшую испытаний машину Т-35-2 и всю рабочую документацию по Т-35А.