После недолгого правления кабинета лорда Дерби к власти в самом конце 1852 года был призван лорд Абердин. Он создал коалицию из вигов, пилитов, фритредеров (сторонников свободной торговли). Поддержку ему оказали и другие силы в размытой и неустойчивой парламентской ситуации 1850-х годов. Лорд Джон стал лидером палаты общин и проявлял интерес к иностранным делам. Именно тогда в очередной раз обострился восточный вопрос. Рассел вместе с лордом Палмерстоном оказался в числе тех «ястребов», что подталкивали миролюбивого премьер-министра на всё более воинственные позиции. В итоге Британия оказалась втянута в Крымскую войну, хотя кабинет возглавлял один самых «русофильских», как тогда писали, министров. В качестве лидера палаты общин Рассел руководил ходом дебатов и стал одним из главных рупоров правительства, поскольку премьер-министр был членом верхней палаты. Неудачи в ходе войны привели к росту недовольства с одной стороны, а с другой — к разгулу ура-патриотизма. Лидером «патриотов» стал Палмерстон. В конце 1854 года радикал Робак сделал ошеломивший многих доклад о ходе боевых действий, антисанитарии и коррупции. В конце концов, Рассел и Палмерстон подали в отставку и спровоцировали падение министерства Абердина в начале 1855 года.
В начале 1855 года лорд Джон был назначен английским уполномоченным на Венскую конференцию, которая должна была рассмотреть меры по прекращению войны и выработать предварительные условия мира. На неё возлагались большие надежды, но на практике она окончилась ничем. Прошедшие во Франции изменения и намерения императора Наполеона III окончить войну поставили Палмерстона и Рассела в трудное положение. Доклад последнего по итогам Венской конференции не произвёл на парламент большого впечатления. Ряд британских историков говорит даже, что миссия Рассела позорно провалилась. В итоге было решено начать мирный конгресс в Париже, который и положил конец Крымской войне. Понимая, что он всё более и более находится в тени Палмерстона, Рассел решил отойти от активного участия в политической жизни, уделив внимание литературе и истории.
В 1859 году лорд Палмерстон сформировал свой второй кабинет и предложил лорду Джону ключевой пост министра иностранных дел. Впрочем, делал он это не без умысла. Премьер-министр понимал, что Рассел по-прежнему представляет угрозу его власти, поэтому лучше держать его поближе. Кроме того, Рассел показал редкостную некомпетентность во внешнеполитических вопросах во время Крымской войны, в то время как сам Палмерстон отвечал за внешнюю политику Британии в качестве главы Форин оффис или ведущего деятеля оппозиции без малого 30 лет. Поэтому можно огласиться с мнением тех историков, которые утверждают, что в последние годы своей политической жизни лорд Джон Рассел был явно в тени Палмерстона. Особенно это замечание верно в отношении пребывания его в министерстве иностранных дел, когда внешнюю политику проводил лорд Палмерстон практически непосредственно. После того, как Рассел стал графом и перешёл в палату пэров, влияние Палмерстона ещё усилилось, так как он был членом палаты общин, которая играла всё более важную роль. В целом Рассел разделял политику своего шефа на объединение Италии и поддержку конфедератов в Гражданской войне в США.
Когда в конце 1865 года Палмерстон наконец-то умер, королева призвала старого и больного Рассела к власти. Она писала ему: «Вчера вечером печальные новости о смерти лорда Палмерстона достигли Королевы. Это — прерванная связь с прошлым и чувства королевы, что она осталась одна в ее пустынном и изолированном существовании, так как, один за другим, верные её слуги и советники покинули её…. Королева не может обратиться ни к кому другому, кроме как к лорд Расселу, старому и верному другу ее, с просьбой принять на себя тяжкие обязанности Премьер-министра»[74]
. Огромную роль во втором его кабинете стал играть лидер палаты общин Уильям Гладстон, который и был реальным главой правительства. В 1866 году вновь был выдвинут вопрос о парламентской реформе, события отчасти напоминали борьбу за реформу 1830–1832 годов. Поэтому было бы странно, если бы трибун либерализма и один из авторов первого Билля о реформе не поддержал бы её. Однако он особого интереса к ней не проявлял. Под руководством Гладстона и других либералов был разработан проект, несколько снижавший избирательный имущественный ценз, но не вводивший всеобщее избирательное право, о чём твердили со времён чартизма. В итоге против проекта оказались и тори, и радикалы, и ирландцы (он не распространялся на Ирландию), и многие «старые виги». Вместо того, чтобы всех устроить, проект всех только раззадорил и был провален палатой общин. Лорду Расселу оставалось только одно — вручить королеве прошение об отставке. Это был окончательный уход из политической жизни.