В конце лета 1934 года Капица вместе с женой в очередной раз приехали в Советский Союз, но, когда супруги приготовились вернуться в Англию, оказалось, что их выездные визы аннулированы. Позднее жене было разрешено вернуться в Англию к детям, и вскоре Анна Алексеевна присоединилась к мужу в Москве, а вслед за ней приехали и дети. Резерфорд и другие друзья Капицы обращались к советскому правительству с просьбой разрешить ему выезд для продолжения работы в Англии, но тщетно.
В 1935 году Капице предложили стать директором вновь созданного Института физических проблем Академии наук СССР. Петр Леонидович поставил условием покупку оборудования, с которым он работал в Англии. В конце концов, Резерфорд, смирившись с потерей своего выдающегося сотрудника, позволил советским властям купить оборудование лаборатории Капицы.
Дав согласие, Петр Леонидович с семьей поселился тут же, на территории института, в особняке из нескольких комнат. Возвращение Капицы на родину совпало со сталинскими чистками. Петр Леонидович, обладавший необычайно высоким авторитетом, смело отстаивал свои взгляды даже в это тяжелое время. Он знал, что в стране все решает высшее руководство. С этим руководством он и стал вести прямой и откровенный разговор. С 1934 по 1983 год ученый написал более 300 писем «в Кремль» (Сталину - 50, Молотову - 71, Маленкову - 63, Хрущеву - 26). Благодаря его вмешательству, от гибели в тюрьмах и лагерях в годы сталинского террора были спасены многие ученые.
В 1972 году, когда властями был инициирован вопрос об исключении из Академии наук Андрея Дмитриевича Сахарова, против этого выступил один только Капица. Он сказал: «Аналогичный позорный прецедент уже был. В 1933 году фашисты исключили из Берлинской академии наук Альберта Эйнштейна».
Но каковы бы ни были условия жизни, Петр Леонидович никогда не прекращал научную работу. На установке, доставленной в Москву из Кавендишской лаборатории, Капица продолжал исследования в области сверхсильных магнитных полей. В опытах участвовали его кембриджские сотрудники, прибывшие на время в Москву, - механик Пирсон и лаборант Лауэрман. Эти работы заняли несколько лет. Капица считал их очень важными.
Ученый усовершенствовал небольшую турбину, очень эффективно сжижавшую воздух. В созданной им оригинальной установке не требуется предварительное охлаждение гелия: газообразный гелий охлаждается, адиабатически расширяясь в специальном детандере. Теперь в разных странах создаются практически только такие гелиевые установки.
Экспериментальные научные исследования Капицы в области физики низких температур ознаменовались фундаментальным открытием. В процессе изучения свойств жидкого гелия в 1937 году им было открыто явление сверхтекучести. Ранее было известно уникальное свойство гелия, который переходит в жидкое состояние при температуре 4,2°K, оставаясь жидким при более низких температурах вплоть до абсолютного нуля. Было также известно, что при температуре 2,19°K скачкообразно меняется теплоемкость жидкого гелия (точнее, изотопа гелия с атомным весом 4). В чрезвычайно изящных экспериментах, наблюдая протекание жидкого гелия через капилляры и узкие щели (шириной до полумикрона), Капица показал, что у этой жидкости при температурах ниже 2,19°K полностью отсутствует вязкость.
В работах 1937-1941 годах были обнаружены и изучены другие аномальные явления в жидком гелии, в частности, распространение тепла в нем. Было показано, что в интервале температур от 4,2 до 2,19°K гелий ведет себя как обычная жидкость, а при температуре ниже 2,19°K в его поведении проявляются аномалии. Петр Леонидович приходит к выводу о сосуществовании в таком гелии двух жидкостей - нормальной и аномальной (сверхтекучей), которые могут двигаться как бы сквозь друг друга.
Эти и другие совершенно необычные свойства жидкого гелия оказалось возможным объяснить только в рамках квантовотеоретических представлений. Экспериментальные работы Капицы стали основой развития нового направления - физики квантовых жидкостей.
После начала войны Институт физических проблем эвакуировался в Казань. По прибытии на место его разместили в помещениях Казанского университета. В тяжелое время Капица создал самую мощную в мире турбинную установку для получения в больших масштабах необходимого промышленности жидкого кислорода.
В 1945 году в Советском Союзе активизировались работы по созданию ядерного оружия. Отказ Капицы участвовать в создании атомной бомбы привел к его отставке и отстранению от научной работы. Капица был смещен с поста директора института и в течение восьми лет находился под домашним арестом. Он был лишен возможности общаться со своими коллегами из других научно-исследовательских институтов. У себя на даче Петр Леонидович оборудовал небольшую лабораторию и продолжал заниматься исследованиями.