В феврале 1943 г. ГКО СССР была утверждена программа научно-технических исследований по практическому использованию “внутриатомной” энергии. Эта программа и положила начало созданию советского ядерного оружия. Для ее реализации был образован специальный научный центр: 12 апреля 1943 г. по указанию ГКО Академия наук СССР учредила секретную Лабораторию № 2 во главе с И. В. Курчатовым (с 1949 г. - Лаборатория измерительных приборов Академии наук, сокращенно ЛИПАН). Так начал разворачиваться атомный проект СССР.
М. Г. Первухину и С. В. Кафтанову (в 1943 г. председатель Всесоюзного комитета по делам высшей школы при СНК СССР, уполномоченный ГКО СССР по науке) было поручено осуществлять повседневное наблюдение за работами по урановой проблеме и оказывать помощь Лаборатории №2.
В мае 1944 г. И. В. Курчатов и М. Г. Первухин направили Сталину докладную записку, предложив создать при правительстве Специальный комитет под руководством одного из членов Политбюро- заместителя председателя СНК СССР. М. Г. Первухин был не только включен в состав образованного 20 августа 1945 г. Спецкоми- тета, но и стал председателем созданного в декабре 1945 г. Инженерно-технического совета при Специальном комитете. Он же возглавил первую из четырех секций совета (“Ядерные реакторы”).
Наряду с Инженерно-техническим советом при Спецкомитете действовал Технический совет. 9 апреля 1946 г. оба совета были объединены в один Научно-технический совет ПГУ. Председателем его стал начальник ПГУ Б. Л. Ванников. При совете было создано пять секций. Секцию № 1 - “Ядерные реакторы” - возглавил М. Г. Первухин. А с 1947 г. по 1949 г. он выполнял обязанности председателя Научно-технического совета. В связи с тяжелым заболеванием Б. Л. Ванникова в декабре 1947 г. Первухин был назначен первым заместителем начальника ПГУ и оставался им до конца 1949 г. 29 августа 1949 г. на Семипалатинском полигоне был взорван первый отечественный атомный заряд. Государственную комиссию на этих испытаниях возглавлял М. Г. Первухин. За успешное выполнение специального задания правительства - создание ядерного оружия - в 1949 г. М. Г. Первухину было присвоено звание Героя Социалистического Труда.
В январе 1950 г. Михаила Георгиевича назначили заместителем Председателя Совета Министров СССР (освободив от обязанностей министра химической промышленности). На него также было возложено руководство работой Бюро по химии и электростанциям при Совете Министров СССР. В марте 1953 г. М. Г. Первухин возглавил объединенное Министерство электростанций и электропромышленности.
В период с декабря 1953 г. по февраль 1955 г. Михаил Георгиевич занимал должности заместителя Председателя Совета Министров СССР, председателя Бюро по энергетике, химической и лесной промышленности при Совете Министров СССР. С февраля 1955 г. по июль 1957 г. он первый заместитель Председателя Совета Министров СССР. Одновременно с декабря 1956 г. по май 1957 г. М. Г. Первухин был председателем Государственной экономической комиссии Совета Министров СССР по текущему планированию народного хозяйства.
В 1953 г. Специальный комитет при Совмине СССР после ареста возглавлявшего его Л. П. Берии был ликвидирован. А 26 июня 1953 г. было создано Министерство среднего машиностроения СССР, куда вошли Первое главное управление при Совмине СССР (атомная промышленность) и Третье главное управление при Совмине СССР (работы в области управляемых ракет, самолетов-снарядов и ракет дальнего действия), которое просуществовало в составе Минсредмаша только до 1955 г.
В апреле 1957 г. М. Г. Первухин был назначен министром среднего машиностроения СССР. Он стал руководителем крупнейшего министерства нашей страны, возглавив ведущую отрасль военно-промышленного комплекса СССР.
Одним из важнейших направлений работ министра Первухина было развитие ядерной энергетики и строительство атомных электростанций. Он не раз участвовал в комиссиях по приемке новых АЭС. До конца жизни Михаил Георгиевич был тесно связан с Минсредмашем и Институтом атомной энергии им. И. В. Курчатова, с его директором академиком А. П. Александровым.
Но после пленума ЦК КПСС, проходившего с 22 по 29 июня 1957 г., положение М. Г. Первухина как государственного деятеля резко изменилось. В июне 1957 г. на заседаниях Президиума ЦК был поднят вопрос о недопустимых поступках Н. С. Хрущёва, нарушающего принципы коллективности в работе Президиума. Члены Президиума ЦК Молотов, Булганин, Каганович, Маленков, Ворошилов, Сабуров, Первухин, Шепилов в выступлениях подвергли резкой критике действия Хрущёва. Некоторые потребовали его освобождения от обязанностей Первого секретаря ЦК КПСС. Следствием этих разногласий явился созыв пленума ЦК КПСС. В результате под влиянием Хрущёва и его сторонников пленум принял резолюцию “Об антипартийной группе Маленкова, Кагановича и Молотова”.