Подобно Милну и другим астрофизикам, Ландау был убежден, что звезды в определенный момент должны прекратить коллапсировать, и тогда звезда «будет представлять собой сверхплотное ядро, окруженное веществом в обычном состоянии». Он согласился с мнением большинства ученых, утверждавших, что после полного выгорания топлива масса звезды будет меньше верхнего предела, и таким образом она избежит коллапса. Будучи физиком, Ландау не читал астрофизических журналов и не знал о ранних работах Чандры. Много лет первой работой по определению верхнего предела массы белых карликов считалась статья Ландау 1932 года, а не статья Чандры 1931 года. При этом Ландау поначалу сам не поверил своему открытию. Шесть лет спустя он дополнил свои прежние результаты, предположив, что глубоко внутри звезды с очень высоким давлением должно возникнуть ядро, как у белого карлика. Когда масса ядра превысит верхний предел, оно станет нестабильным и сколлапсирует до плотности атомных ядер — 1014
граммов на кубический сантиметр. Если бы Земля сжалась до такой плотности, то ее диаметр был бы 300 метров, а не ~12750 километров, как сейчас. При такой плотности электроны начинают «вдавливаться» в ядра атомов и превращают протоны в нейтроны, что и приводит к образованию нейтронной звезды. Нейтроны, как и электроны, подчиняются принципу Паули и создают давление вырождения, нейтрализуя дальнейшее гравитационное сжатие. Ландау определил величину максимальной массы для стабильного белого карлика. Но при этом возник вопрос, какая минимальная масса необходима для формирования нейтронной сердцевины. Ландау использовал теорию тяготения Ньютона и квантовую статистику и получил значение минимальной массы, которая оказалась приблизительно равной одной тысячной массы Солнца.Далее Ландау перешел к теории излучения звезд, причем его теория весьма отличалась от эддингтоновской теории излучения при слиянии ядер. Ландау предположил, что излучение звезд возникает при падении частиц внешней газовой оболочки на нейтронное ядро и превращении их кинетической энергии в свет.
А между тем в жизни Ландау было все не так гладко. Начиная с 1931 года сталинский режим становился все более жестоким, а к 1937 году жизнь в Советском Союзе стала просто невыносимой. Насильственная коллективизация сельского хозяйства привела к гибели примерно 7 миллионов человек. Производились регулярные чистки среди ведущих политиков, интеллигентов и военных специалистов. Ландау всегда был в центре внимания, а потому подвержен особенному риску. Лучшим способом выжить в этой страшной ситуации было путешествие в «один конец», то есть бежать за границу. Надеясь, что работа по нейтронным ядрам поднимет его авторитет в стране, Ландау отослал статью о нейтронных звездах в журнал «Nature» и в лучшие советские научные издания, а также отправил Бору. Бор был почетным иностранным членом Академии наук СССР и пользовался большим уважением в советских научных кругах. Узнав, что статья произвела впечатление на великого датчанина, Ландау опубликовал комментарий Бора на эту работу в ведущей советской газете «Известия». Однако ничего не помогло — Ландау все же арестовали, 28 апреля 1938 года, и отправили в Бутырку, одну из самых страшных тюрем НКВД. Как всегда, обвинения были абсурдны и сфабрикованы. Ландау обвинили в шпионаже в пользу нацистской Германии и критике политики государства в области проведения научных исследований. Власти были уверены в его якобы антисоветской деятельности.
И тогда Петр Капица, открывший явление сверхтекучести, друг Бора и Резерфорда, создатель Института физических проблем в Москве, где работал Ландау, бросился на его защиту. Он написал Сталину и народному комиссару Вячеславу Молотову письмо, в котором говорил, что только Ландау сумел объяснить явление сверхтекучести, а это в значительной мере повысило престиж советской физики. Капица даже пригрозил, что остановит свои собственные исследования, если Ландау не будет выпущен из тюрьмы. Это (а может, что-то другое) сработало, и через год Ландау освободили. Он был страшно измучен и «не мог нормально жить еще „в течение полугода“», как вспоминал сам Ландау в интервью для советской газеты «Правда» в 1964 году. Ландау все же нашел в себе силы вернуться к научной работе, но потом никогда не делал заявлений, которые даже отчасти могли быть истолкованы как политические.