Фатхи Шкаки, Абд эль-Азиз и Башир Муса объединяют вокруг себя десятки ярых сторонников новой исламистской террористической организации, поддерживая самые тесные связи с различными экстремистскими группами и радикальными исламскими египетскими студентами, многие из которых стали непосредственными участниками заговора и убийства президента Саддата в октябре 1981 года. Как результат, палестинские исламские радикалы были немедленно высланы из Египта в сектор Газа, находящийся под контролем израильской военной администрации. Принято считать, что именно с этого момента организация «Палестинский Исламский Джихад» формально начала свою активную террористическую деятельность. В 80-х годах деятельность группы носила спонтанный, хаотичный характер, основные усилия были направлены на выявление и физическое уничтожение части местного арабского населения, активно сотрудничавшей с израильскими властями. На первых этапах своего существования «Палестинский Исламский Джихад» поддерживал теснейшие связи с ООП, однако после ликвидации в Тунисе Абу Джихада, лично курировавшего многие террористические группы на территории Израиля, «Палестинский Исламский Джихад» постепенно отдалился от ООП, со временем полностью разорвал все контакты с остальными палестинскими движениями.
В марте 1986 года во время массовых арестов членов организации «Палестинский Исламский Джихад» Фатхи Шкаки, теперь уже шейх, очередной раз был задержан израильской службой безопасности ШАБАК. В 1987 году за подстрекательство к террористической деятельности и за контрабанду оружия в сектор Газа шейх Фатхи Шкаки приговаривается Военным трибуналом к четырем годам заключения плюс пяти годам условно. Однако в августе 1988 года израильскими властями принимается решение освободить шейха Фатхи Шкаки из заключения и выслать его на территорию Ливана. Освободившись из израильской тюрьмы, Шкаки быстро нашел дорогу в Сирию и начал руководить террористическими актами прямо из Дамаска.
В 1987 году, прямо перед Интифадой, «Палестинский Исламский Джихад» провел ряд кровавых террористических актов, в основном на территории сектора Газа. Новая страница в биографии организации началась с убийства израильского офицера военной полиции 6 октября 1987 года в секторе Газа. Во время засады, устроенной боевиками «Исламского Джихада», погибли двое израильтян и шестеро террористов. Лидеры организации утверждают, что именно с этого нападения на армейский джип началась Интифада. На протяжении всей Интифады организация шейха Фатхи Шкаки задавала тон. Впервые террористы-смертники были использованы «Палестинским Исламским Джихадом», и лишь потом этот жуткий, но весьма эффективный опыт переняли другие террористические организации, в частности – ХАМАС. Усилиями израильской службы безопасности ШАБАК многие активные члены организации были арестованы и депортированы на территорию Ливана, что значительно ослабило влияние и активность организации внутри сектора Газа.
В 1988 году – поджог лесов в заповеднике Кармель на севере страны.
6 июля 1988 года – террористический акт на линии 405-го автобуса, следовавшего маршрутом Тель-Авив – Иерусалим. С криками «
В феврале 1990 года – убийство девяти израильских граждан во время нападения на туристический автобус в Египте.