В тюрьме Завахири встретился лицом к лицу с самым известным египетским фундаменталистом шейхом Омаром Абдул-Рахманом, который также проходил по делу об убийстве Садата. Немного странный, морально сильный, ослепший в детстве из-за диабета, шейх приобрел известность в исламистских кругах благодаря красноречивым обвинениям в адрес Насера, продержавшего его в тюрьме восемь месяцев, не предъявив обвинений. После смерти Насера влияние Слепого Шейха усилилось, особенно в Верхнем Египте. Там он преподавал богословие в филиале университета «Аль-Азхар» в Асьюте, где у него было множество последователей. Кроме того, он возглавлял «Исламскую группу». Некоторые из молодых исламистов вымогали деньги на нужды своего движения у коптских христиан, составлявших лишь 10 % египетского населения, но среди которых было много владельцев магазинов и мелкого бизнеса. Иногда фундаменталистская молодежь просто вторгалась на коптские свадьбы и грабила гостей. Богословие джихада требует обоснование фетвой — религиозным постановлением, — чтобы оправдать такие действия, которые иначе рассматривались бы как преступление. Шейх Омар любезно выпустил фетву, одобрявшую террор, направленный против христиан и ограбление коптских ювелирных магазинов, основываясь на том, что существует состояние войны между христианами и мусульманами.
Когда Садат наконец попытался обуздать исламистов. Спелой Шейх отправился на три года в Саудовскую Аравию и другие арабские страны, где нашел богатых покровителей и благодарных слушателей. Возвратившись в Египет в 1980 году, он стал уже не просто духовным наставником «Исламской группы», но эмиром организации. В одной из своих первых фетв шейх Омар объявил, что еретический лидер заслуживает смерти. На процессе по обвинению в покушении на Садата адвокат убедил суд, что его клиент не подразумевал египетского президента, ибо он не назвал его по имени, и, самое главное, шейх имел лишь косвенное отношение к заговору. Спустя шесть месяцев после заключения под стражу шейха освободили.
Хотя две ведущие воинствующие организации «Исламской группы» и «Аль-Джихада» имели общую цель — свержение правительства, — тактика и идеология их сильно отличались. Слепой Шейх проповедовал, что все человечество должно принять ислам, и стремился открыто распространять Коран. Завахири с этим не соглашался. Он презирал массы и высокомерно относился к любой вере, кроме своей собственной версии ислама, и предпочитал действовать тайно до того момента, когда его группа сможет захватить власть и наложить на всех тоталитарный религиозный закон.
«Исламская группа» и «Аль-Джихад» сотрудничали под руководством шейха Омара, но члены «Аль-Джихада», включая Камари и Завахири, стремились создать единую организацию под собственным контролем. В Каирской тюрьме члены двух организаций бесконечно спорили о лучшем способе совершить истинную исламскую революцию и часто ссорились, кто должен стать вождем. Завахири указал, что шариат запрещает эмиру быть слепым. Шейх Омар поспорил с этим. Шариат также установил, что эмир не может исполнять свои обязанности в заключении. Соперничество между Омаром и Завахири перешло все границы. Зайят пробовал уговорить Завахири не досаждать шейху, но Айман не уступал. Результатом стало серьезное размежевание. Обе организации объединились вокруг своих упрямых вождей.
Завахири был осужден за хранение оружия и приговорен к трехлетнему заключению. За время следствия и суда он практически отбыл свой срок. Возможно, правительство сняло с него несколько обвинений за сотрудничество со следствием и свидетельства против других участников заговора.
Когда Завахири в 1984 году вышел на свободу, он еще больше укрепился в радикальных взглядах. Саад Эддин Ибрагим, видный социолог из Американского университета в Каире, разговаривал с Завахири вскоре после того, как он вышел из тюрьмы, и отметил, что Айман казался очень подавленным и одержимым местью, что характерно для узников, над которыми издевались в тюрьме. Пытки, возможно, имели и другие непредвиденные воздействия на чрезвычайно экзальтированных фанатиков. Многие из них свидетельствовали о чуде — в мучениях они видели отверстые двери небесного рая, и святые говорили им, что исламское общество можно построить только на мученичестве.