Сформированный для организации выставки Главный выставочный комитет решил привлечь к созданию проектов выставки лучшие архитектурные силы. Для этого осенью 1922 года был объявлен открытый Всероссийский конкурс на проект общего плана выставки с премиями за лучшие работы. Параллельно данному конкурсу комитет устроил и персональное закрытое соревнование между архитекторами республики, неоднократно участвовавшими в сооружении русских и международных выставок. В результате открытого конкурса в комитет поступило 27 проектов различных авторов. Конкурс дал богатый материал о характере архитектуры выставки, но ни один из авторов проектов вопрос исчерпывающе не решил.
Закрытый конкурс между архитекторами И.А. Голосовым, И.В. Жолтовским, С.Е. Чернышевым, И.А. Фоминым и В.А. Щуко дал более ценные результаты. И хотя Жолтовский опоздал с подачей проекта, однако именно его проект был признан жюри наиболее удовлетворяющим условиям объявленного конкурса. По мысли Жолтовского, «архитектура выставки не должна обращать на себя внимание, не должна быть самодовлеющей, а лишь служить фоном для экспонатов и дополнять перспективу окружающей среды».
В результате в мастерской академика И.В. Жолтовского был создан окончательный проект выставочного ансамбля. Основная архитектурно-планировочная идея генерального плана выставки, предложенная Жолтовским, состояла в создании большого партера, в центре которого первоначально предполагалось соорудить фонтан с символической скульптурой пробуждающейся России. К фонтану и скульптуре обращались отдельные павильоны. Однако фонтан построен не был, и ведущей темой в композиции выставки стала река.
Разработка общего плана и проектов зданий выставки была закончена к 31 октября 1922 года. В декабре того же года X Всероссийский съезд Советов призвал «все органы Советской власти и трудящееся население начать энергичную подготовку к участию на выставке, дабы показать на ней основные достижения свои в области восстановления, укрепления и развития сельского хозяйства на новых началах и под руководством рабоче-крестьянской власти».
Для осуществления всей программы строительства выставки был организован специальный строительный отдел во главе с заведующим (им стал И.Е. Коросташевский) и главным архитектором выставки, которым был утвержден академик архитектуры А.В. Щусев, председатель Московского архитектурного общества. Его заместителем стал Вячеслав Константинович Олтаржевский.
Участие в выставке было равносильно признанию. К ее созданию привлекли лучших мастеров: архитекторов К.С. Мельникова, В.А. Щуко, И.В. Жолтовского, П.А. Голосова, Ф.О. Шехтеля, скульпторов С.Т. Коненкова, Н.А. Андреева, И.Д. Шадра, В.И. Мухину, И.С. Ефимова.
В декабре 1922 года в Москве, у Крымского Вала, началось строительство выставки. На стройке одновременно трудилось более тысячи человек — крестьяне ближайших к Москве губерний, московские рабочие, рабфаковцы, студенты. Техника использовалась самая примитивная — лопаты, тачки, козлы, а объем работ на территории 65,5 гектара был довольно большой. Поэтому строительство не прекращалось ни днем ни ночью. Сводки о том, как оно идет, регулярно появлялись в газетах.
Очень скоро были готовы Главный дом, павильоны Украины, Крыма, Дальневосточной области, различных трестов и синдикатов, отделы деревни, животноводства, земледелия, переработки продуктов сельского хозяйства, кустарно-промышленный, иностранный и многие другие. Всего на территории выставки было сооружено 255 зданий общей площадью 27 640 квадратных метров. Некоторые из них сами по себе являлись интересными экспонатами, например огородная теплица (теплицы в то время были еще достаточно редки), винодельческий подвал, метеорологическая станция. В отделе домоводства и быта были возведены традиционные жилища многих народов России: ненецкие чумы, якутские юрты, кавказские сакли, крытые соломой хаты Украины.
К 15 августа 1923 года строительство выставки закончилось. Строители отметили это событие большим праздником. К моменту открытия выставка стала официально называться Первой сельскохозяйственной и кустарно-промышленной выставкой Союза ССР. На торжествах по поводу открытия выставки Ленин присутствовать не смог, и его заменил нарком просвещения Луначарский. Вскоре уже готовую выставку посетила Н.К. Крупская. Она привезла в Горки множество фотографий и подробно рассказала об увиденном Ленину Рассказ подогрел желание вождя посетить выставку 18 октября 1923 года, когда ему стало немного лучше, он неожиданно приехал в Кремль и на следующий день заглянул на выставку — это был последний приезд Владимира Ильича в Москву.
И вот выставка открылась. На ней демонстрировалось около 233 тысяч экспонатов. Выставке придавалось настолько большое значение, что первые почтовые марки СССР, выпущенные в 1923 году, были посвящены именно открытию Всесоюзной сельскохозяйственной и кустарно-промышленной выставке.