Как отдельная проектно-конструкторская организация, ОКБ Сухого было сформировано еще перед войной, в июле 1939-го, когда Павла Осиповича Сухого, работавшего начальником бригады на заводе № 156, назначили Главным конструктором коллектива, задачей которого являлся запуск в серию на авиазаводе № 135 в г. Харькове ближнего бомбардировщика ББ-1 (Су-2). Эта задача была успешно решена – с 1940 года на заводе начался выпуск самолета для ВВС Красной армии. Кроме работ, связанных с нуждами серийного производства, по заданию правительства, в ОКБ широким фронтом велись и проектные изыскания. В частности, в этот период времени здесь разрабатывались новые модификации ББ-1, началась разработка новых самолетов: одноместного бронированного штурмовика (будущий Су-6) и высотного истребителя И-135 (Су-1).
В связи с успешным внедрением ББ-1 в серию, по просьбе П.О. Сухого весной 1940 г. коллектив ОКБ был переведен в г. Калининград (ранее – ст. Подлипки, а ныне – г. Королев) Московской области, где на базе КБ-29 был организован самостоятельный завод опытного самолетостроения № 289. В 1940 – 41 гг. на этой производственной базе разрабатывались и строились новые модификации Су-2 с двигателями М-82 и М-89 и опытные образцы штурмовика Су-6 и истребителя Су-1. В октябре 1941 года ОКБ было эвакуировано в г. Молотов (ныне – г. Пермь), где конструкторы продолжали работы по самолетам Су-1/Су-З и Су-6, и началось проектирование нового штурмовика Су-8. После реэвакуации, в 1943 году, ОКБ-289 разместилось уже на новом месте – на базе бывшего завода № 464 НКАП в г. Тушино Московской области (ныне – территория г. Москвы), где были продолжены работы по созданию Су-6 и Су-8, а также началась постройка экспериментальных самолетов Су-5 и Су-7 со смешанными силовыми установками. В январе 1945 г. ОКБ-289 было объединено с ОКБ- 134, при этом новому заводу был присвоен номер 134, а к П.О. Сухому отошла часть тематики КБ В.Г. Ермолаева.
После окончания Великой Отечественной войны конструкторский коллектив под руководством Сухого начал работы по проектированию реактивных самолетов: истребителей Су-9 и Су-11 и четырехмоторного бомбардировщика Су-10. Параллельно, в это же время выполнялось задание МАП по созданию учебно-тренировочного варианта Ту-2 (самолет УТБ) и самолета-разведчика Су-12. Несмотря на то, что все вышеперечисленные машины (за исключением Су-10) были построены и успешно прошли испытания, в малую серию был запущен лишь один из них – УТБ.
С 1947 года под руководством Павла Осиповича развернулись работы по проектированию реактивного перехватчика Су-15, оснащенного двумя двигателями и стреловидным крылом, а годом позже начались работы над экспериментальным околозвуковым истребителем Су-17. Су-15 был построен и успешно проходил испытания в 1948-49 гг., а построенный к лету 1949 г. Су-17 на испытания так и не вышел. Дело в том, что в ноябре 1949 года, ОКБ Сухого было полностью расформировано. Причиной являлось очередное сокращение в МАП ассигнований на НИОКР, а формальным поводом – «низкая результативность» ОКБ Сухого: за весь десятилетний период работ 1939-49 гг., коллективу, возглавляемому Павлом Осиповичем, несмотря на достигнутые успехи, так и не удалось внедрить в крупную серию ничего, кроме вышеупомянутого Су-2. В 1950 году П.О. Сухой вернулся на работу в ОКБ Туполева, где он занимался, в частности, внедрением в серию Ту-14 на иркутском авиазаводе № 39.
Вновь, как отдельная проектная организация, КБ было воссоздано только спустя три года, но уже на другой «юридической» базе. В мае 1953-го П.О. Сухой был назначен вместо В.В. Кондратьева главным конструктором КБ-1 МАП, сформированного за год до этого с целью копирования для ВВС СССР американского истребителя F-86 «Сейбр». После смерти Сталина это задание было признано неактуальным, и П.О. Сухому был дан «карт-бланш» по выбору тематики работ. В результате, с августа 1953 года в КБ-1 развернулись работы по проектированию новых истребителей, а в ноябре 1953 г. по приказу МАП КБ-1 в качестве производственной базы была передана территория филиала ОКБ-155 (А.И. Микояна), которая до этого в период с 1940-го по февраль 1953 года принадлежала опытному заводу № 51. Таким образом, юридически, П.О. Сухой стал «наследником» бывших руководителей ОКБ-51 – Н.Н. Поликарпова и В.Н. Челомея, тем более, что уже в апреле 1954 г. вновь созданному заводу приказом МАП было возвращено прежнее наименование – «Государственный союзный опытный завод № 51 МАП».