«صحن مكشوف، متساوى الأضلاع تقريبا، تتوسطه قبة محمولة على رقبة مثمنة، موضوعة على قاعدة مربعة بها أربع فتحات معقودة، وبوسطها حوض للوضوء»، بتلك الكلمات وصف المقريزى، مسجد أحمد بن طولون فى كتابه المواعظ والاعتبار بذكر الخطط والآثار.
يعتبر مسجد ابن طولون الموجود فى حى السيدة زينب بالقاهرة ثالث مسجد أنشئ فى مصر، بعد جامعى عمرو بن العاص، والعسكر، حيث أسس عام 877 ميلاديا، لكنه يعد أقدم مساجد مصر حتى الآن لاحتفاظه بحالته الأصلية بالمقارنة مع مسجد عمرو بن العاص الذى تغيرت معالمه بسبب الإصلاحات التى طرأت عليه منذ تأسيسه.
واختلفت الروايات بشأن بناء المسجد، حيث ذكر أن الناس اشتكوا من ضيق جامع العسكر، وفق كتاب مساجد مصر وأولياؤها الصالحون، للكاتبة سعاد على، وحكى كتاب «القاهرة: جوامع وحكايات»، أن ابن طولون كان يصلى فى مسجد شديد الضيق، وقرر لذلك أن يبنى المسجد، وتحكى رواية أن ابن طولون كان فى زيارة ليلية للأهرامات، وتعثرت بغلته فى كنز من الذهب، فى مكان اشتهر أن من يناجى ربه فيه يجاب دعاؤه، وشاع بين البسطاء أن النبى موسى ناجى ربه من فوقه، فقرر بناء الجامع فيه.
وذكر المؤرخون أن المهندس الذى بنى المسجد كان قبطيا يدعى سعيد بن كاتب الفرغانى، وشيد المسجد فوق ربوة صخرية كانت تعرف بجبل يشكر، ويعتبر من المساجد المعلقة، ويعد أحد أكبر مساجد مصر حيث تبلغ مساحته نحو 6.5 فدان، وبنى على شكل مربع على الطراز العباسى، وتعد مئذنة المسجد الأقدم فى مصر، ويعتقد أنها بنيت على طراز مئذنة جامع سامراء فى العراق، وبه 19 بابا.
ووفق روايات تأريخية فإنه بعد الانتهاء من بناء المسجد، رفض المصلون دخوله، لاعتقادهم أنه بنى بمال لا يعرفون أصله، فخطب فيهم ابن طولون فى يوم الجمعة وأقسم أنه ما بنى هذا الجامع «ويده تشير إليه» بشىء من ماله وأنه بناه بكنز ظفر به فى الجبل الثالث، وأن العشارى الذى نصبه على مئذنته وجده فى الكنز.