В январе 1968 года после 27-летней службы в армии генерал-лейтенант вышел в отставку. По предложению премьер-министра Голды Меир, как мы помним, соратницы «Красной Розы», Рабин вскоре получил назначение на один из важнейших дипломатических постов – посла в Вашингтоне. За пять лет работы бывшего генерала на этой должности произошло значительное улучшение отношений между Израилем и США. Американцы дали израильтянам военные самолеты, но не помогли средствами противовоздушной обороны. Поэтому Мильштейн считает, что «…если бы Рабин действительно разбирался в военных вопросах, он бы понял стратегическую важность ракетных систем ПВО. Если бы он был способным дипломатом, он бы сумел предотвратить опасный для Израиля ход событий. Но Рабин был послушным (и не слишком талантливым) исполнителем воли своих начальников (Голды, Эвена, Даяна и др.) и одновременно учился у них “культуре власти”. А эти начальники не понимали того, что происходило у них под носом, их, прежде всего, интересовали проблемы партийной и личной выгоды. Все эти лица несут ответственность за кровь и поражение в Войне Судного дня. Тогда израильская армия в первый же день потеряла треть своей авиации от действий арабских сил ПВО…Война Судного дня (1973) была трагедией для Израиля и большой удачей лично для Рабина. В самое трудное время войны «великого полководца» оставили сидеть дома. Очевидно, в правительстве помнили, что на Рабина полагаться не следует. В этом и была его удача. Не участвуя в войне, он не нес ответственности за ошибки и поражения».
В 1973 году дипломат вернулся в Израиль и, связав свою политическую судьбу с партией МАПАИ (предшественница Партии труда и нынешней партии Авода), на парламентских выборах был избран депутатом кнессета (израильского парламента). В апреле 1974 года бывший дипломат получил портфель министра труда в правительстве Голды Меир.
После ее отставки партийный съезд избрал Рабина руководителем Партии труда. 2 июня того же года он в свои 52 года по предложению Голды Меир возглавил правительство, став самым молодым премьер-министром в истории Израиля.
За три года своего руководства Кабинетом И. Рабин добился заключения промежуточных соглашений с Египтом и Сирией. Экономика страны почти без потрясений пережила мировой энергетический кризис 1973–1974 годов, вызванный повышением цен на нефть. Но правительство раздирали внутрипартийные распри, прежде всего взаимная конкуренция и обоюдная ненависть Рабина и его министра обороны Переса. Журналисты называли их то «заклятыми друзьями», то «неразлучными врагами».
Через три года разразился скандал, в котором была замешана жена Ицхака – Лея. Она, по данным израильской газеты «Гаарец», имела на личном счету в одном из банков США две тысячи долларов (по израильским законам, государственным чиновникам и их родственникам запрещалось иметь счета в иностранных банках). Премьер в апреле 1977 года подал в отставку с постов главы государства и лидера партии.
Лея долгое время была притчей во языцех. Например, газеты твердили о том, что она вмешивалась в государственные дела супруга. По ее словам, в юности Рабин пользовался успехом у девушек, однако ухаживать за ними не умел. Они встретились в 1943 году во время службы в военизированных молодежных подразделениях и через пять лет поженились. Вскоре у супругов родилась дочь Далия (ныне юрист), а затем сын Юваль (ныне программист).
По четвергам вечером Рабины обычно уезжали из официальной иерусалимской резиденции домой в Тель-Авив. Там играли в теннис, плавали в бассейне, общались с внуками, встречались с друзьями.
Многие годы ходили слухи о неравнодушном отношении Рабина к алкоголю, особенно к виски. Популярный израильский певец Авив Гефен пел по радио в начале 1990-х годов: «Кто там идет пьяный? Да это ж глава правительства!»
В предпоследний год жизни премьера, журналистка Лили Галили 30 июня 1994 года делилась впечатлением о встрече с Ицхаком: «Порой мне приходилось напоминать Рабину, что столица Италии это Рим, а не Милан. Мне казалось, что я схожу с ума: передо мной сидит глава правительства, в прошлом начальник генштаба. Следует предположить, что прав он, а не я. И вот я уже сама начинаю сомневаться: может, я не права, и Рим уже не столица Италии?»
Рабин вернулся в политику в 1984 году, став министром обороны в правительстве «национального единства», в которое вошли представители Аводы (бывшей Партии труда) и Ликуда.
В декабре 1987 года на оккупированных Израилем арабских территориях вспыхнуло восстание палестинцев (Интифада). Рабин был с официальным визитом в США, недооценил опасности и не счел нужным «возвращаться из-за пустяков». Первые проявления Интифады переросли в настоящую войну – солдат ЦАХАЛа (Армии Обороны Израиля) палестинцы забрасывали камнями и бутылками.
Вернувшись из Америки, министр обороны приказал израильской армии ответить на Интифаду «мощью, силой и ударами», что укрепило его репутацию жесткого политика.