Первый год учебы в академии был довольно сложным. Много времени уходило на выполнение лабораторных работ и чертежей, на сдачу зачетов и экзаменов по физико-математическим и общеинженерным дисциплинам. Однако к третьему курсу Яковлев уже определился как будущий авиационный конструктор: на базе добровольно-спортивной авиационной организации и военного научного общества академии оп строил легкомоторные самолеты. Окончив академию в 1931 г, Яковлев некоторое время работал инженером на серийном заводе. Но уже в 1932 г. он построил самолет АИР-6, который представлял собой подносный моноплан-парасоль смешанной конструкции с закрытой, довольно удобной кабиной. Особенностью этого самолета, как и многих конструкций Александра Сергеевича, была высокая массовая отдача, а следовательно, и большая дальность полета. В 1933 г. на самолете АИР-6 поплавкового варианта был превышен официальный международный рекорд дальности для гидросамолетов. Годом позже несколько машин АИР-6 совершили групповой перелет по маршруту Москва - Иркутск - Москва, что по тому времени представлялось большим достижением. Продолжая работать над созданием спортивных самолетов, А. С. Яковлев построил двухместный спортивный самолет АИР-7 с шасси, которое не убиралось, во помещалось в обтекателях. Самолет имел тонкое крыло и подкосную монопланную схему. В конце лета 1932 г. на этом самолете на высоте 1000 м была достигнута максимальная скорость полета 332 км/ч, в то время как самолет-истребитель И-5, имевший бипланную схему, развивал скорость всего 286 км/ч. Стало очевидным, что монопланная схема, дающая превосходство в скорости, более целесообразна и для боевых самолетов.
В 1935 г. молодой конструкторский коллектив, который возглавил А. С. Яковлев, построил одноместный учебно-тренировочный свободнонесущий моноплан УТ-1 со штатным двигателем воздушного охлаждения мощностью 100 л. с. При установке форсированного двигателя мощностью 150 л. с. максимальная скорость самолета достигала 252 км/ч. На УТ-1 было установлено несколько рекордов, но следует заметить, что этот самолет был строг в пилотировании, требовал повышенного внимания и высокой квалификации летчика.
В предвоенные годы в большой серии (7150 единиц) выпускался двухместный учебно-тренировочный самолет УТ-2, который имел хорошие пилотажные характеристики, а потому пользовался заслуженной популярностью у летного состава боевой авиации.
Благодаря опыту, накопленному при проектировании и постройке учебно-тренировочных самолетов, конструкторское бюро, руководимое А. С. Яковлевым, смогло перейти к созданию истребителей. Первым таким самолетом стал И-26, который во многом отличался от созданных в других ОКБ машин этого класса и имел деревянное крыло, сварной (из труб) каркас фюзеляжа и дюралюминиевое оперение. Для лучшего обтекания поверх трубчатого каркаса фюзеляжа устанавливались гаргроты с обшивкой. Как все самолеты А. С. Яковлева, И-26 имел малую массу и продуманные, можно даже сказать элегантные, конструктивные формы. На самолете был установлен двигатель водяного охлаждения конструкции В. Я. Климова, имевший малые габариты и небольшую удельную массу. Мощность его на форсированном режиме составляла 1240 л. с. - по тому времени очень большая величина. Этот самолет в серийном производстве выпускался под маркой Як-1. На высоте 3400 м он имел скорость 600 км/ч, был вооружен пушкой калибра 20 мм и двумя пулеметами калибра 7,62 мм. Создание Як-1 явилось большим достижением отечественного самолетостроения. На базе этой боевой машины несколько позже выпускался самолет УТИ-26. Истребители Як-1 и УТИ-26 широко применялись в боевых операциях Великой Отечественной войны. Всего был выпущен 8721 самолет этого типа.
Як-1 превосходил по всему комплексу летно-технических характеристик немецкие истребители Ме-109Е, а также Ме-109 (1941).
В период Великой Отечественной войны немало добрых слов было сказано об этом самолете летчиками-истребителями, в том числе выдающимся летчиком дважды Героем Советского Союза Степаном Супруном. Сам А. С. Яковлев писал, что коллектив конструкторского бюро в этот период напряженно работал над улучшением недавно принятого в серийное производство истребителя Як-1. Работа увенчалась успехом.
Несколько раньше, в 1939 г., этим же конструкторским бюро был спроектирован и построен скоростной бомбардировщик Як-4 с двумя двигателями водяного охлаждения. Он развивал скорость 567 км/ч (максимальная для боевых самолетов, выпущенных в нашей стране в то время) и обладал дальностью полета до 1600 км. Таких бомбардировщиков было построено более 600, и они применялись в боевых операциях до широкого внедрения в серийное производство основного скоростного пикирующего бомбардировщика времен войны Пе-2 и штурмовиков Ил-2.