Оказавшись в студенческой среде, Хекматияр активно включился в деятельность организации «Мусульманская молодежь». Хорошие организаторские способности, упорство в достижении цели и тесные контакты с одним из лидеров экстремистской организации «Братья-мусульмане», Сибхатуллой Моджаддеди, вскоре позволили ему войти в руководящий комитет «Мусульманской молодежи». Больше того, Хекматияр стал представителем этой организации в студенческом совете университета.
В начале семидесятых годов Кабульский университет являлся мощным центром движения за революционные преобразования в Афганистане. Здесь действовали и НДПА, и маоисты, и экстремистские мусульманские организации. Под влиянием последних и возникла «Мусульманская молодежь», которая активно выступала против королевского режима в стране и за создание в Афганистане исламской республики.
Репрессивный аппарат в это время тоже не дремал. За крайне резкие высказывания о королевской семье и афганской аристократии в 1972 году Г. Хекматияр был посажен в тюрьму. Конец его арестантским мытарствам был положен свержением монархии в 1973 году. Он оказался на свободе.
Выдвижение Г. Хекматияра в ряды лидеров оппозиционного исламского движения произошло именно в то время, когда в Афганистане усилились репрессии против организаций, выступавших за преобразования в стране. Возглавляемые им группы соблюдали более тщательную конспирацию, что позволило им не только выжить в смутные времена, но и приобрести определенный политический вес.
С началом репрессий против целого ряда представителей духовенства, которые проводились по прямому указанию М. Дауда, Г. Хекматияр в 1976 году бежал в Пакистан. Спустя некоторое время на базе экстремистских фракций «Братьев-мусульман» и «Мусульманской молодежи» Хекматияр создает новую, Исламскую партию Афганистана и становится ее лидером.
В период образования ИПА Хекматияр установил тесные контакты с авторитетными общественными и религиозными деятелями Пакистана, которые в свою очередь оказали ему колоссальную финансовую помощь. Такое доброжелательное участие в судьбе Хекматияра в начале политической карьеры и реальная поддержка в значительной степени определили его последующую ориентацию на представителей военных кругов и специальных служб Пакистана. Одновременно с этим Хекматияр очень внимательно следил за развитием исламской революции в Иране. Пытаясь более четко определить направленность своей политической платформы, в 1979 году он посетил Тегеран и неоднократно встречался с Хомейни.
После Апрельской революции многие активисты организаций и групп исламского направления оказались в Пакистане. Не стал исключением и Хекматияр. Самостоятельность мышления, четко выраженная контрреволюционная направленность политических взглядов, смелость и жесткость в руководстве партией притягивали к нему эмиграцию. Вместе с тем такие личные качества Хекматияра, как экстремизм в отношениях с людьми, высокая амбициозность, определенная эксцентричность и властность, поставили его в изолированное положение среди других крупных лидеров афганской контрреволюции. Исламский реформатор и решительный молодой политик, Хекматияр не нашел в новых условиях контакта с Моджаддеди, что еще больше усилило его изоляцию в среде руководи гелей контрреволюции и стало значительным препятствием дальнейшему усилению его авторитета и влияния.
В начале восьмидесятых годов Хекматияр являлся относительно новой фигурой в афганской политике. Он не всегда подчинялся коллективным решениям лидеров контрреволюции и плохо поддавался управлению со стороны. Это послужило причиной того, что соратники по движению предпочитали влиять на Хекматияра в основном через пакистанскую администрацию. Таким же образом осуществлялась финансовая и военная помощь ИПА.
Острые разногласия с руководителями почти всех контрреволюционных партий, постоянный контроль и давление со стороны пакистанских властей, вплоть до личных претензий со стороны президента страны Зия-уль-Хака, привели к тому, что Хекматияр несколько раз публично объявлял о желании переместить свою штаб-квартиру в Иран.
В начале своей политической карьеры, еще во время учебы в университете, Г. Хекматияра вряд ли можно было отнести к разряду экстремистов. В период формирования политических убеждений он не придерживался крайне правых взглядов. Его последующую позицию во многом определила полная зависимость от финансирования со стороны Запада. Тем не менее в начале восьмидесятых годов Г. Хекматияр не исключал возможности контактов с правительством Афганистана в поисках каких-либо компромиссных решений. Например, в 1983 году он пытался вступить в переписку с А. Кадыром, который занимал в то время пост министра национальной обороны Афганистана. По некоторым данным, до этого Хекматкяр неоднократно встречался и с X. Амином. Незадолго до своей смерти последний предлагал Хекматияру войти в состав правительства страны. Однако по неизвестным причинам это предложение было отвергнуто.