Во внутренней политике краткое пребывание Андропова у власти было отмечено прежде всего попыткой покончить с наиболее вопиющими проявлениями коррупции, распространившейся в своего рода «семейных кругах» партии из‑за стабильности положения и абсолютной безнаказанности при Брежневе огромного числа местных партийных руководителей. Являясь руководителем КГБ, Андропов имел всю информацию о многочисленных делах (почти никогда не предававшихся огласке), связанных с семейственностью и коррупцией, которые творились в феодальных уделах «советских князьков», особенно во второй половине 70–х гг., когда теневая экономика разрослась до того, что проникла во все сферы экономической деятельности. В связи с распространением этого явления в сентябре 1980 г. ЦК партии принял ряд мер, направленных на борьбу с коррупцией. Указания по этому вопросу были разосланы в местные партийные организации в виде секретного письма. Правящая верхушка отдавала себе отчет в том, что проблема носила столь общий характер, что лучше было подойти к ней как можно осторожнее, «разбирая» только самые вопиющие злоупотребления и закрывая глаза на другие, В 1981 — 1982 гг. прогремело несколько «скандальных дел», раскрытых КГБ под руководством Андропова (которые Запад трактовал как настоящее «объявление войны КГБ брежневской мафии», по выражению «Обсервер» от 7 марта 1982 г,): «скандал с сервизом Екатерины II» — дело члена Политбюро Г. Романова, который «взял напрокат» в Эрмитаже бесценный сервиз, чтобы отпраздновать свадьбу своей дочери; «большое икорное дело», в которое был вовлечен министр рыбного хозяйства А. Ишков, старый друг А. Косыгина; «скандал в ОВИРе» в Москве; и, наконец, «бриллиантовая история», в которой непосредственно были замешаны дочь Брежнева Галина и его зять Ю. Чурбанов, первый заместитель министра внутренних дел.
На похоронах отца дочь Брежнева была в плотном кольце работников КГБ, На Галину уже имелся ордер на задержание, после ареста 9 ноября ее близкого друга, директора самого знаменитого продуктового магазина в Москве (Елисеевского гастронома). Сразу после смерти Брежнева газеты начали много писать о коррупции высших чиновников.
Андропов заявил, что следует «более жестко бороться против нарушений партийной дисциплины». Журнал «Коммунист» осудил «карьеристов, пытающихся проникнуть в ряды партии, рвачей, бездельников, нарушителей порядка». Э. Шеварднадзе, первый секретарь Компартии Грузии и член Политбюро, выступил в «Правде» с обвинительной статьей против семейственности и коррупции и объявил об отстранении от должности более 300 ответственных лиц в Грузии. Наконец, 11 декабря «Правда» неожиданно опубликовала отчет о последнем заседании Политбюро, посвященном обсуждению множества писем рабочих и крестьян, недовольных ухудшением условий труда, фальсификацией статистических данных, нарушениями в распределении жилья, расхищением денежных средств и другими нарушениями законности и справедливости. Этим сообщением, за которым последовали предложения усилить санкции в отношении коррупции, семейственности, расхищения и взяточничества, правительство демонстрировало свое намерение энергично бороться со всеми видами преступной деятельности на всех уровнях, чтобы оздоровить моральный климат в обществе. Эти меры не были чем‑то невиданным в советской истории: популистские кампании против коррупции «высокопоставленных князьков», которые считали, что советские законы не для них, а для простых людей, неоднократно предпринимал Сталин. При Андропове эти акции явились результатом, как отмечает Ж. Медведев, мощного давления снизу. Коррупция охватила все уровни, и многие полагали, что ухудшение положения с продовольствием и промтоварами вызвано их перераспределением в интересах номенклатуры, обильно снабжавшейся высококачественными продуктами через магазины для избранных, и что благодаря широкой сети таких магазинов–распределителей и системе индивидуальных пайков простой человек может рассчитывать только на хлеб.