ويعود تأسيس هذا المسجد إلى الصحابى الجليل مسلمة بن مخلد الأنصارى، الذي تولى ولاية مصر من قبل الخليفة الأموى معاوية بن أبى سفيان من عام (47 إلى 68 هـ)، هو أول من بنى كنيسة بفسطاط مصر، تأكيدا لتعاليم الإسلام السمحة التي تنادى بالتسامح وحرية العقيدة.

الصحابى مسلمة بن مخلد، هو صاحب أول من قام بتوسعة جامع عمرو بن العاص حين ضاق المسجد بأهله، فزاد فيه من الجهتين الشرقية والشمالية وجعل له رحبة، كما يعد مسلمة أول من جعل المآذن في المساجد الإسلامية عام 53هـ، وكانوا قبل ذلك يؤذنون على ظهر الجامع أو على بابه، مشيرا إلى أن عمارة مسلمة لجامع عمرو بن العاص تضمنت بناء صومعة عند كل ركن من أركانه، كما جعل فيه منائر"مآذن" وزاد عدد المؤذنين وأمرهم بأن يؤذنوا للفجر إذا مضى نصف الليل، وأمر ألا يضرب فيه ناقوس عند الفجر كما كان يضرب.

وفي إحدى الدراسات الأثرية التي عرضها الباحث الأثرى أبوالعلا خليل، قال: "إن مسلمة بن مخلد هو الذي استقبل السيدة زينب، ابنة الإمام على بن أبى طالب وحفيدة رسول الله، صلى الله عليه وسلم، والتي اختارت الإقامة بمصر عقب مقتل أخيها الإمام الحسين، ودخلت مصر أول شعبان سنة 61هـ، وأنزلها الوالى مسلمة بداره بالحمراء القصوى، فأقامت بها 11 شهرا ونحو 15 يوما من شعبان".

وأضاف أن قبر والى مصر مسلمة بن مخلد، يقع حاليا في شارع سوق مسلمة بمصر القديمة بمذبح الجمل، والذي يضمه حاليا أحد المساجد الحديثة، وقد أثنى المؤرخون على الصحابى الجليل، قائلين: "إنه كان إذا قرأ القرآن في المحراب يسمع سقوط دموعه على الأرض، وكان مجاب الدعوة بدعاء صاحب الشرع، صلى الله عليه وسلم، "اللهم علمه الكتاب ومكن له في البلاد وقه العذاب"، ومن كراماته أنه كان إذا نزل واديا ولا ماء به دعا الله تعالى فيسقون في الوقت".