Падение Берия было концом первого триумвирата. Престиж и влияние Хрущева, организатора антибериевского заговора, значительно усилились. Маленков утратил свою опору и теперь все более зависел от Хрущева, который очень быстро прибрал к рукам партийный аппарат. Хрущев еще не мог диктовать свои решения, но и Маленков уже не мог действовать без согласия Хрущева. Оба еще нуждались в поддержке друг друга. Но в руках Хрущева был не только партийный аппарат. Армия, которую он использовал для ликвидации Берия, была также за него. В войска для разъяснения случившегося были посланы не только Жуков, Конев, Москаленко, непосредственные технические исполнители ареста Берия, но и Булганин — штатский маршал, всецело преданный Хрущеву, был послан в стратегически и политически наиболее важный — Московский военный округ.
В декабре 1953 года состоялся официальный суд над Берия и его сподручными. Берия был уже мертв, но народ об этом не знал. Среди предъявленных обвинений фигурировало «организация антисоветской заговорщической группы в целях захвата власти и восстановления господства буржуазии». Сомнительно, однако, чтобы Берия стремился к «восстановлению власти буржуазии», а не к собственной диктатуре. Заодно Берия был объявлен агентом «Интеллиндженс сервис» с 1918 года. Вместе с Берия были судимы и приговорены к смертной казни несколько высших чиновников госбезопасности, в том числе бывшие министры и их заместители.
В 1954 году был судим и расстрелян Рюмин — непосредственный руководитель провокационного дела врачей, а затем бывший министр государственной безопасности Абакумов, на счету которого было, помимо других многочисленных преступлений, «ленинградское дело».
После устранения Берия органы государственной безопасности были реорганизованы. Большинство (но не все) высших руководителей были смещены или заменены. Они получили прекрасные пенсии. Вместо Министерства государственной безопасности был образован Комитет Государственной Безопасности при Совете Министров СССР. Тем самым подчеркивалось его снизившееся значение в структуре государственной власти. На местах начальники управлений КГБ отныне подчинялись первым секретарям обкомов, ставшим реальными хозяевами своих областей. Были ликвидированы спецотделы МГБ в различных учреждениях, в том числе и в ЦК КПСС. Всесильные Особые Совещания — тайные трибуналы, выносившие суровые, не подлежащие пересмотру приговоры, главным образом по обвинениям в контрреволюционной деятельности, антисоветской агитации и прочего, были упразднены. Во главе КГБ был поставлен бывший заместитель Берия, сыгравший значительную роль в его устранении, генерал И. А. Серов. Новый глава ведомства КГБ был известен своими «заслугами» по депортации прибалтов, жителей Западной Украины и Западной Белоруссии в 1939—40 годах. Под его руководством проходила депортация народов Кавказа и татар Крыма в 1943—1944 годах. Он возглавлял государственную безопасность в советской зоне оккупации Германии и прочее. Однако его личная преданность Хрущеву, испытанная в годы совместной службы на Украине, и отсутствие политических амбиций у Серова сыграли свою роль. Эти качества нового главы госбезопасности отвечали главной цели реорганизации органов государственной безопасности — низведения их до уровня технических исполнителей. ЦК КПСС снова взял на себя полную ответственность за аппарат террора, уменьшенный, урезанный, но все же сохраненный как необходимый составной элемент советской социалистической общественной системы. Основным резервом кадров КГБ оставался, как и прежде, комсомол. Многие сотрудники государственной безопасности были в прошлом деятелями комсомола на различных уровнях. После Серова председателем КГБ был назначен бывший первый секретарь ЦК ВЛКСМ А. Н. Шелепин. Позднее, когда Шелепин стал членом Политбюро, его сменил на посту председателя КГБ другой секретарь ЦК ВЛКСМ — Семичастный.
Сохранение органов государственной безопасности подтверждало, что основа системы, созданной Лениным и усовершенствованной Сталиным, осталась без изменения. Но в тот момент многим это не было достаточно ясно.
Через неделю после реабилитации «врачей-убийц» ЦК КПСС принял решение «О нарушении законов органами государственной безопасности». Это решение носило не только частный, связанный с «делом врачей», характер, но имело большое принципиальное значение. Оно было первым формальным решением партии, осуждавшим органы государственной безопасности, ставшие над партией и над государством.