После учреждения дамасского халифата ортодоксальный взгляд сошелся с официальным в том, что наслаждение земными радостями совершенно законно, при условии верного соблюдения различных законов, изложенных в Коране и Сунне. Однако, несмотря на это, всегда, даже при жизни Мухаммада и его ближайших преемников, существовали мусульманские аскеты. Некоторые из них жили в пустыне, в нищете, занимались подвижничеством и предавались долгим молитвам. Возможно, в какой-то степени причиной таких тенденций стал страх перед адским огнем, столь живо описанным в Коране. Некоторых из этих аскетов называли «плачущими» за то, что они горько плакали от покаянных чувств и страха возмездия.

Но постепенно аскеты пошли дальше и стали стремиться к некоему личному контакту с Богом, даже к некоей интимности или божественной любви — к религии сердца. Правоверные не были готовы признать подобную возможность. Ислам видел Бога таким величественным и всемогущим, что для ортодоксов сама мысль о взаимной любви между ним и человеческим существом выглядела почти кощунственной. Человек, утверждали они, раб Бога. Его долг сводится к тому, чтобы свидетельствовать об единстве Бога, повиноваться его повелениям и переносить превратности жизни с терпением и покорностью. Ортодоксальные вероучители и богословы не одобряли даже того, что аскеты уделяли особое внимание испытанию совести. По мнению официальных религиозных наставников, Коран и Сунна заключали в себе все необходимое для спасения. Обращение к собственной совести вполне могло привести человека к ереси.

Одним из ранних учителей этой более эзотерической формы ислама стал Хасан ал-Басри, умерший в 728 г. в правление халифа Хишама. Хариджиты с крайней враждебностью относились к мистическим склонностям аскетов, которые стали называться суфиями из-за того, что имели обычай носить единственное одеяние из шерсти (по-арабски суф). Шииты также отвергали мысль о прямом общении между Богом и человеком. Согласно их учению, роль наставников и посредников между Богом и человеческим родом принадлежала имамам.

Возможно, ортодоксальные богословы поступили бы правильнее, если бы приняли суфиев, а затем установили над ними контроль. Но поскольку почти повсеместно религиозные лидеры относились к ним враждебно, некоторые из них стали впадать в разнообразные ереси. Одним из самых известных мистиков этого раннего периода был Зу ан-Нун, освобожденный суданский раб, который полностью отрицал мироздание. Осужденного за ересь, его в цепях доставили к халифу Мутаваккилю. Однако Зу ан-Нун говорил с таким благочестием и смирением, что Повелитель правоверных был растроган до слез и приказал немедленно отпустить его.