لقد كان لبعض العوامل مثل اللغة العربية والقرآن الكريم، والفلسفة اليونانية، والثقافة الفارسية الهرمسية، ثم الموسيقى بالغ الأثر في تكوين الفارابي العقلي والوجداني، مما كان له بعدا معرفيا في فلسفته، وكذلك بعدا روحاني عرفاني في تصوفه. اشترك التصوف القلبي والعقلي عنده في المرحلة الأولى، وهي قائمة على المجاهدة والزهد، أو ما يسمى بالتخلي والتحلي، التخلي عن رذائل النفس والتحلي بفضائلها. فالتصوف القلبي يقف عنده عند حدود المرحلة الأولى فقط، ولا يتخطاها إلى مرحلة التجلي الذي يمثلها بنوع من الوحدة المجردة بين العقل المستفاد والعقل الفعال. ربط الفارابي ربطا محكما بين قوى النفس وبين الفضائل الفكرية والخلقية مما كان له أثره على السلوك والممارسة الأخلاقية. رأى الفارابي أن مصادر الفعل الأخلاقي إثنين: الأول، المصدر الإلهي، فيتماشى الفعل الأخلاقي مع أوامر الحق سيحانه ونواهيه، أما المصدر الثاني، فيتمثل في المجتمع حيث يمثل قوة كبيرة بأعرافه وعاداته وتقاليده. وتتمثل علاقة التصوف العقلي بالحياة الأخلاقية عند الفارابي في أن منظومة القيم الأخلاقية التي دعا إليها من خلال مذهبه الفلسفي وخاصة الجانب الأخلاقي منه كانت تمهيدا لسلوكه الصوفي العملي وممارسته لنوع من التصوف القلبي، إلا أنه لم ينعزل عن الواقع الحياتي الاجتماعي أو السياسي، وإنما كان يدرك تمام الإدراك أهمية العقل ودوره في المعرفة العلمية، وكذلك القلب ودوره في العرفان الذوقي المباشر.