Фатхи Шкаки, Абд эль-Азиз и Башир Муса объединили вокруг себя десятки ярых сторонников новой исламистской террористической организации, поддерживая самые тесные связи с различными экстремистскими группами и радикальными исламскими египетскими студентами, многие из которых стали непосредственными участниками заговора и убийства президента Анвара Садата в октябре 1981 года. Как результат палестинские исламские радикалы были немедленно высланы из Египта в сектор Газа, находящийся под контролем израильской военной администрации. Принято считать, что именно с этого момента организация «Палестинский исламский джихад» формально начала свою активную террористическую деятельность. В 1980-х годах деятельность группы носила спонтанный, хаотичный характер, основные усилия были направлены на выявление и физическое уничтожение местного арабского населения, активно сотрудничавшего с израильскими властями. На первых этапах своего существования «Палестинский исламский джихад» поддерживал теснейшие связи с ООП, однако после ликвидации в Тунисе Абу Джихада, лично курировавшего многие террористические группы на территории Израиля, организация постепенно отдалилась от ООП, со временем полностью разорвала все контакты и с остальными светскими палестинскими движениями.
В марте 1986 года во время массовых арестов членов организации «Палестинский исламский джихад» Фатхи Шкаки, теперь уже шейх, очередной раз был задержан израильской службой безопасности ШАБАК. В 1987 году за подстрекательство к террористической деятельности и за контрабанду оружия в секторе Газа он был приговорен Военным трибуналом к четырем годам заключения плюс пяти годам условно. Однако в августе 1988 года израильскими властями принимается решение освободить Шкаки из заключения и выслать его на территорию Ливана. Освободившись из израильской тюрьмы, шейх быстро нашел дорогу в Сирию и начал руководить террористическими актами прямо из Дамаска.
В 1987 году, прямо перед Интифадой, «Палестинский исламский джихад» провел ряд кровавых террористических актов, в основном на территории сектора Газа. Новая страница в биографии организации началась с нападения на армейский джип и убийства израильского офицера военной полиции 6 октября 1987 года. Во время засады, устроенной боевиками этой группы, погибли двое израильтян и шестеро террористов. Лидеры организации утверждают, что именно с этого теракта в секторе Газа началась Интифада. На протяжении всей Интифады организация шейха Фатхи Шкаки задавала тон. Впервые террористы-смертники (шахиды) были использованы «Палестинским исламским джихадом» и лишь потом этот жуткий, но весьма эффективный опыт переняли другие террористические организации, в частности ХАМАС. Усилиями израильской службы безопасности ШАБАК многие активные члены организации были арестованы, посажены в тюрьму или депортированы на территорию Ливана, что значительно ослабило влияние и активность организации внутри сектора Газа.
Однако организация шейха Фатхи Шкаки постоянно напоминала о себе пугающими сводками.
В 1988 году — поджог лесов в заповеднике Кармель на севере страны.
6 июля 1988 года — террористический акт на линии 405-го автобусного маршрута, следовавшего из Тель-Авива в Иерусалим. С криками «Аллау акбар» фанатик набросился на водителя автобуса и силой вывернул руль вправо. Водитель вступил в борьбу с террористом, однако все его попытки выправить ситуацию оказались тщетными. Переполненный автобус, идущий на большой скорости, сошел с трассы и сорвался в ущелье с 30-метровой высоты. В результате этого страшного террористического акта 16 человек погибли, 27 получили тяжелые ранения.
В феврале 1990 года — убийство девяти израильских граждан во время нападения на туристический автобус в Египте.