В противовес своим противникам Сталин для подавляющей части руководства партии и рядовых ее членов олицетворял единство в партии. Такая позиция органично вытекала из всей его партийной деятельности. Он твердо стоял на позиции ленинского большинства с 1903 года. В 1909 году в Баку он забил тревогу в связи с угрозой раскола партии «на отдельные организации». Затем он постоянно поддерживал ленинское большинство, даже в тех случаях, когда явно не был согласен с восторжествовавшим мнением.
Чтобы обеспечить единство партии в ходе дискуссий 1920-х годов, Сталин не раз демонстрировал готовность к преодолению разногласий, поиску компромисса и способность забыть былые острые споры во имя общего дела. Дейчер писал, что «в то время многим людям казалось, что, по сравнению с другими большевистскими лидерами, Сталин не обладал наибольшей нетерпимостью. Он был менее злобен в своих атаках на противников, по сравнению с другими триумвирами. В его речах всегда звучали нотки добродушного и немного бодряческого оптимизма, что отвечало преобладавшим благодушным настроениям. В Политбюро, когда обсуждались важные политические вопросы, он никогда не навязывал коллегам свои взгляды. Он внимательно следил за ходом дискуссии, чтобы увидеть, куда ветер дует, и неизменно голосовал с большинством, если он только не добивался заранее того, чтобы большинство действовало так, как он считал нужным. Поэтому он всегда был приемлем для большинства. Для партийной аудитории он не казался человеком, имевшим личную корысть или затаившим личную обиду. Он казался преданным ленинцем, хранителем доктрины, который критиковал других исключительно во имя дела. Он производил такое впечатление даже в тех случаях, когда он говорил за закрытыми дверями Политбюро».
Проявляя активность в борьбе против Троцкого, Сталин в то же время возражал против жестких мер, которые могли бы спровоцировать ненужные волнения среди членов партии, и, вопреки позиции Зиновьева и Каменева, настаивал на том, чтобы оставить Троцкого в политбюро. С первых же дней возникновения «новой» оппозиции Сталин старался остановить развитие конфликта, предлагая компромисс до начала XIV съезда. В своем отчетном докладе на этом съезде он игнорировал возникшие разногласия и обращал внимание на то общее, что объединяло партию. Хотя Сталин был резок в своих оценках и обвинениях, на протяжении двух лет полемики с «новой», а затем «объединенной» оппозицией он не раз выступал за компромиссные решения, возражая против немедленного исключения Троцкого, Зиновьева, Каменева из партии.
Члены партии видели, что Сталин поступал со своими противниками примерно так же, как всегда поступали с «уклонистами» в прошлой истории партии. После сурового осуждения и признания ими своих ошибок лидеры оппозиции могли рассчитывать на то, что их оставят на прежних постах. На первых порах Сталин воздерживался от «отсечения» видных деятелей, и лишь затяжная борьба с Троцким, Зиновьевым и их сторонниками привела к изменению способов их наказания. Кроме того, было очевидно, что какие бы обвинения ни бросали ему в лицо, Сталин готов был закрыть на это глаза, если дискуссия носила келейный характер и «сор не был вынесен из избы». По этой причине он был готов простить Бухарину и «Чингисхана», и «интригана» и предложить ему компромисс.
Позже эти действия Сталина были расценены как проявление иезуитского коварства, направленного на то, чтобы разбить своих соперников по частям, а затем уничтожить. Однако в противовес этому утверждению можно привести примеры того, что Сталин был готов проигнорировать былое участие в оппозиции, колебания, закулисные интриги и резкие слова в свой адрес и оставить людей на высоких постах, если они прекращали внутрипартийную борьбу. Несмотря на то, что Н.С. Хрущев был троцкистом, а А.А. Андреев играл видную роль в троцкистской оппозиции, Сталин способствовал избранию их в политбюро. И хотя Андреев обещал поддержку «правым», как следовало из беседы Бухарина с Каменевым, он оставался в политбюро до 1952 года, пока не утратил трудоспособности. И Калинин, считавшийся «правым», и «колебавшийся» между Сталиным и «правыми» Куйбышев оставались руководителями страны до самой смерти. Не стремился Сталин избавиться ни от Орджоникидзе, который не раз «ругательски ругал» его и настаивал на смещении Сталина с поста генсека, ни от Ворошилова, имевшего репутацию то «правого», то «колеблющегося» (а Троцкий даже видел в нем потенциального Бонапарта, который свергнет Советскую власть). Только иезуитским коварством нельзя объяснить, почему Рыков, который вместе с Бухариным участвовал в оппозиционных выступлениях 1928 – 1929 годов, остался на посту председателя Совета народных комиссаров до конца 1930 года. Разумеется, этот пост могли уже в начале 1929 года занять многие из последовательных сторонников Сталина.