Первоначально в главной башне Т-35 устанавливалась 76-мм пушка КТ («Кировская танковая») образца 1927/32 годов, в которой использовалась качающаяся часть полевой полковой пушки образца 1927 года. КТ имела укороченную длину отката с 1000 до 560 мм, что достигалось поднятием давления в накатнике и тормозе отката. В 1935 году были усилены салазки путем утолщения их стенок с 3,6 до 8 мм. Это было вызвано тем, что старые салазки гнулись при движении танков по пересеченной местности.
С начала 1936 года 76-мм пушки Т-35 были полностью унифицированы с пушками КТ-28 средних танков Т-28. Количество жидкости в накатнике увеличили с 3,6 до 4,8 л, что уменьшило откат до 500 мм. Ввели новый подъемный механизм, ножной спуск и новые прицельные приспособления.
Пушка устанавливалась в маске и снабжалась телескопическим и перископическим прицелами ТОП образца 1930 года и ПТ-1 образца 1932 года. Телескопический располагался слева от пушки, перископический — на крыше башни с левой стороны и соединялся с пушкой так называемым «приводом к перископу». Кроме этих прицелов в крыше башни с правой стороны, симметрично с перископическим прицелом, располагалась командирская панорама ПТК.
Пулемет ДТ («Дегтярев танковый») калибра 7,62-мм устанавливался в шаровом яблоке справа от пушки. Угол его горизонтального обстрела +/-30°, угол возвышения +30°, снижения -20°. Для стрельбы назад в нише башни имелась бугельная установка для запасного пулемета ДТ.
С 1937 года на люке наводчика располагалась зенитная турельная установка П-40 с пулеметом ДТ, снабженным коллиматорным прицелом для стрельбы по воздушным целям.
В средних башнях размешены 45-мм танковые пушки 20К образца 1934 года (на машинах первых серий — образца 1932 года).
45-мм пушка образца 1934 года в отличие от предыдущей системы имела полуавтоматику механического, а не инерционного типа, измененное противооткатное устройство, совершенно новый подъемный механизм и ряд других более мелких изменений.