تزامن بناء الجامع الكبير بالمهدية مع فترة تأسيس المدينة عاصمة الفاطميين وتؤكد المصادر التاريخية أن عبيد الله المهدي مؤسس المهدية سنة 303ه وقد يكون ذلك تزامن مع سنة التأسيس وقد يكون بعد ذلك بسنوات قليلة وقد خصص هذا الجامع خلال الفترة الأولى للخليفة وأفراد حاشيته وهو أول وآخر جامع فاطمي ويقال إنّ ممرا خاصا كان يربطه بقصر القائم بأمر الله وهو معلم شيده أيضا عبيد الله المهدي في نفس الفترة تقريبا وهذا ما يؤكد بأن هذا الجامع كان ممنوعا على عامة الناس. بلا مئذنة من مميزات هذا الجامع الفاطمي أنه بالرغم من عظمة معماره فهو لا يملك مئذنة وقد حافظ على هذه الخاصية حتى بعد تدميره وإعادة بنائه في أواسط القرن الماضي وتحديدا سنة 1962 ومازال إلى اليوم يحافظ على هذه الخاصية وقد لاحظنا وجود قبّة مزركشة تبدو أنها حديثة الإنجاز وتقع بالجهة الجنوبية لهذا الجامع. تغييرات شهد هذا الجامع عديد التغيرات كان أولها في أواسط القرن السادس عشر ميلاديا إذ حوله الإسبان في تلك الفترة إلى كنيسة ومقبرة لقادة جيوشهم ولما عزموا على الرحيل دمروه وبقي أنقاضا لفترة طويلة تجاوزت 4 قرون حتى جاءت دولة الاستقلال فأعادت بناءه مع احترام مساحته الأصلية والإبقاء على واجهته الرئيسية ومدخله الذي يشبه قوس النصر الروماني.