В 1954 г. начался половинчатый и противоречивый процесс реабилитации и возвращения гражданских прав другим выселенным народам. Поначалу были сняты с учета по спецпоселению без права возвращения к прежним местам жительства все немцы, крымские татары, калмыки и балкарцы. В июле 1954 г. сняты административные ограничения с детей карачаевцев, чеченцев и ингушей в возрасте до 16 лет. В марте 1955 г. все спецпоселенцы получили право иметь паспорта, а в мае 1955 г. постановлением Президиума ЦК ликвидированы ограничения для членов КПСС. В декабре 1955 г. последовал указ о снятии ограничений в правовом положении с немцев и членов их семей, находящихся на спецпоселении. Однако права на выезд в места прежнего обитания народы не получили. Рассматривалась возможность создания национально-административных образований этих народов в местах высылки. Репрессированные народы категорически возражали против этого и требовали, по примеру мингрелов, возвращения на земли предков и восстановления ранее существовавших автономий.
XX съезд партии дал новый мощный толчок движению наказанных народов. 17 марта 1956 г. издан указ «О снятии ограничений в правовом положении с калмыков и членов их семей, находящихся на спецпоселении». Вскоре аналогичные указы приняты в отношении находившихся на спецпоселении греков, болгар и армян (27 марта), крымских татар, балкарцев, турок, курдов и хемшилов (апрель), чеченцев, ингушей и карачаевцев (июль 1956 г.). Осуждение сталинской политики депортации народов было воспринято как отмена несправедливых решений военных лет. Положения указов о том, «что снятие ограничений по спецпоселению с лиц… не влечет за собой возвращение имущества, конфискованного при выселении, и что они не имеют права возвращаться в места, откуда они выселены», воспринимались как имеющие временный характер. Не дожидаясь официального разрешения, тысячи бывших спецпоселенцев стали самовольно возвращаться на прежние места жительства.
Опасаясь выпустить ситуацию из-под контроля, ЦК партии принял в ноябре 1956 г. постановление о восстановлении национальной автономии калмыцкого, карачаевского, балкарского, чеченского и ингушского народов. Оно предусматривало организованное переселение этих народов в течение 3–4 лет, начиная с весны 1957 г., с тем чтобы подготовить необходимые условия для устройства населения на местах. Спецпоселенцы ждать не хотели. Начался их массовый выезд. Власти стали препятствовать этому, выставляя «оперативные заслоны» на железнодорожных станциях.
Стихийное возвращение обострило межнациональную обстановку на Северном Кавказе, где на место выселенных были поселены другие люди. Относительно спокойно проходило возвращение балкарцев. Однако стихийное возвращение карачаевцев вызвало конфликты. Еще большее обострение породило возвращение чеченцев и ингушей. Жители Грозненской области, Дагестанской и Северо-Осетинской АССР выступали против их стихийного возвращения.
Возвращавшихся встречали враждебно. Им отказывали в прописке, не брали на работу. Однако это их не останавливало. Прибывшие ходили вооруженными по селам и устраивали стрельбу, провоцируя местных жителей на ответные действия. Угрозами и силой они вселялись в свои дома, выгоняя из них проживавшие там семьи. Некоторые из возвратившихся пополнили действовавшие в горах повстанческие отряды, которые частенько занимались грабежом, угоном скота из колхозов. Их жертвами были и рядовые колхозники. Все это вызвало массовый выезд русского населения из республики.
Борьба народов за попранные права дала первые результаты. 9 января 1957 г. Президиум ВС СССР рекомендовал восстановить национальную автономию балкарского, ингушского, калмыцкого, карачаевского и чеченского народов. В соответствии с этим были приняты указы о преобразовании Кабардинской АССР в Кабардино-Балкарскую АССР, о восстановлении Чечено-Ингушской АССР, о преобразовании Черкесской автономной области в Карачаево-Черкесскую автономную область, о восстановлении Калмыцкой автономной области.
Чечено-Ингушская республика восстановлена с расширением ее территории. Переданная в свое время в Северную Осетию часть Пригородного района (977,5 кв. км) оставлена в составе этой республики. В то же время к исторической территории расселения чеченцев и ингушей были присоединены три равнинных района поймы реки Терек из состава Ставропольского края (Наурский, Надтеречный и Шелковской), территория которых равнялась 5,2 тыс. кв. км, или 27 % всей территории республики. Включение этих районов позволяло сделать экономику республики более устойчивой, за счет увеличения численности русского населения власти надеялись усилить влияние Центра на общественную жизнь автономии. В этих актах и расчетах в очередной раз дала о себе знать давнишняя традиция решать национальные проблемы в стране за счет русского народа.