A szúfik történetét Mohamed prófétáig vezetik vissza. A hagyomány szerint a prófétának volt egy belső tanítványi köre, ahol azoknak adta át az ezoterikus, misztikus tanokat, akik elég fejlettek, erősek és nyitottak voltak annak befogadására. A szúfik hite szerint Mohamed prófétának volt egy unokatestvére, Ali inb Abi Talib, aki szintén ehhez a körhöz tartozott. A szúfik ezért Alihoz és a korai szúfikhoz vezetik vissza hagyományvonalukat, ám erre nincs történelmi bizonyíték.
