Точно также существует много точек зрения относительно происхождения суфизма. Одни авторы говорят, что суфизм развился из исторического Ислама, при этом ссылаются на некоторых суфийских авторитетов, другие заявляют, что как раз наоборот, суфизм — это реакция против позиций Ислама. Третьи считают, что суфийские идеи вышли из христианства, или же что их частично или полностью можно отнести к влиянию персидского зороастризма, что они идут из Китая или Индии. Сами суфии утверждают, что суфизм — это эзотерическое учение в контексте Ислама, с которым он считается вполне совместимым и, вместе с тем, много шире его. Авторитетный суфий Сухраварди, считавший себя наследником «хранителей Божественного Логоса», подчеркивал, что суфизм есть форма мудрости, используемая преемственным рядом мудрецов, которая не заканчивается на Мухаммаде, а простирается до таинственного Гермеса из Египта, которого он называл «прародителем мудрецов», давшему начало двум ветвям мудрости: «восточной» и «западной». К «восточной» он относил героев Авесты — царей-мудрецов Гайомарта, Феридуна и Кай-Хосроу, а также Заратустру. Их продолжателями на почве Ислама были суфии ал-Бистами, ал-Харакани, ал-Халладж. «Западную» или «греческую» ветвь представляли Асклепий, Эмпедокл, Пифагор, Платон.
Современный ученый-суфий С.Х.Наср считает, что суфизм — неизменное, вневременное знание. «Строго говоря, — пишет он, — нет нужды говорить об истории суфизма, потому что по своей природе он ее иметь не может». И в другом месте: «Обычными историческими мерками нельзя мерить происхождение и истоки произведений какого-либо суфийского автора, ибо на суфия... вдохновение снисходит «вертикально» и не зависит от «горизонтальных» влияний».
В заключение можно сказать, как говорят сами суфии: «Суфизм — это путь всех религий».