С 1930 по 1935 год жил в киббуце Шефаним, а затем – в Герцлии. Сразу же после приезда в Палестину он вступил в «Хагану». В Герцлии Иссер с женой и ее сестрами занимались уборкой фруктов, а затем открыли собственное дело по выращиванию цитрусовых.
В 1935–1944 годах он работал на дорожном строительстве и прокладке оросительных систем, являясь одновременно членом «Хаганы» и активным бойцом отрядов еврейской самообороны.
Летом 1940 года «Хагана» направила Хареля в тренировочный лагерь в Яарот ха-Кармел, где он учился стрельбе и осуществлению диверсионных акций.
В период с 1940 по 1944 год Харель служил в береговом патруле Хаганы – встречал нелегальных иммигрантов.
В 1944 году начал выполнять задания разведки. За два года до этого внутри «Хаганы» была сформирована первая служба безопасности «Шерут едиот» («Информационная служба»), или сокращенно «Шай», в рамках которой Харелю была поручена работа в так называемом Еврейском дивизионе, или отделе внутренней безопасности. Он отвечал за сбор информации праворадикальных еврейских военизированных организаций «Иргун» и «Лехи».
В 1946 году он возглавил «Еврейский дивизион».
В 1947 году стал руководителем тель-авивского регионального отдела «Шай».
В июле 1948 года возглавил созданную 30 июня 1948 года «Службу общей контрразведки» (впоследствии Общая служба безопасности – «Шин-Бет», которая затем была переименована в «Шабак»).
С 19 сентября 1952 года по 26 марта 1963 года руководил «МОССАДом». Одновременно он возглавлял объединенный комитет руководителей всех израильских секретных служб и был советником премьер-министра по вопросам обороны и безопасности. Почти сразу же после вступления в должность Харель добился от премьер-министра Израиля Бен-Гуриона десятикратного увеличения бюджета «МОССАДа» и реорганизовал работу службы. При нем в «МОССАДе» была создана спецшкола для подготовки агентов и установлены жесткие стандарты для отбора кандидатов. Он говорил: «Мне нужны люди, испытывающие отвращение к убийству, но которых тем не менее можно научить убивать…»
Также он считал, что «МОССАД» должен помочь стране компенсировать разницу в ресурсах между Израилем и его противниками: «Мы окружены врагами, которые намного превосходят нас в численном отношении. Поэтому мы вынуждены выдвигать нашу разведку как можно дальше. Она служит нам подобно длинной руке, помогая скомпенсировать недостаток времени и пространства».
Он был единственным человеком в истории Израиля, который совмещал руководство разведкой и контрразведкой. Для этого уникального положения Давид Бен-Гурион придумал в 1957 году специальную должность – на иврите HaMemuneh («ответственный»). Эта должность не была официальной, однако авторитет Хареля в спецслужбах Израиля был непререкаем. Фактически он был человеком номер два в государстве, поскольку подчинялся только главе правительства и руководил всеми спецслужбами страны.
Также он лично участвовал в организации захвата на территории Аргентины и вывоза в Израиль нацистского военного преступника Адольфа Эйхмана в мае 1960 года. Об этих событиях он написал две книги: «Дом на улице Гарибальди» и «Похищение палача».
В марте 1963 года между Харелем и Бен-Гурионом возникли острые разногласия. Они были связаны с операциями «МОССАДа» в Египте. Незадолго до этого Бен-Гурион заключил тайное соглашение с канцлером ФРГ Конрадом Аденауэром о том, что Германия выплатит Израилю крупные суммы денег в качестве компенсации за преступления нацистов, а также поставит большую партию оружия, в котором Израиль очень нуждался. В это же время Харель развернул в Египте операцию «Дамоклов меч» против немецких ученых, помогавших Египту в разработке ракетной программы, которую Харель считал чрезвычайно опасной для Израиля. Впоследствии выяснилось, что Харель сильно переоценил способности германских оружейников и их египетских коллег. Немецкие специалисты получали от агентов «МОССАДа» угрожающие письма, а затем и посылки, начиненные взрывчаткой. Таким способом Харель рассчитывал заставить их уехать из Египта. В конце марта 1963 года Бен-Гурион попросил Хареля свернуть операцию в Египте, чтобы не ставить под угрозу отношения с ФРГ. Однако Харель приказал, наоборот, активизировать теракты против немецких ученых. Результатом стало обострение отношений с Германией, которая прекратила поставки новейшего оружия Израилю. Это вызвало конфликт между ним и Бен-Гурионом, и Харель подал в отставку 26 марта.
С сентября 1965 года по июнь 1966 года Харель был советником по вопросам разведки и борьбы с террором премьер-министра Леви Эшколя. Однако в связи с личным соперничеством с новым главой «МОССАДа» Меиром Амитом ему пришлось уйти в отставку и с этого поста – на этот раз окончательно завершив свою работу в разведке. Последним поводом для отстранения Хареля стал конфликт вокруг дела Бен-Барки.
С 17 ноября 1969 года по 21 января 1974 года – депутат кнессета 7-го созыва, член комиссии по внутренним делам.