يقع البرج الكبير بالمهدية في مركز شبه الجزيرة ويطل على الميناء القديم، والأكيد أنه يحتل موقع المدينة التي شيدت خلال القرن 10، إذ كشفت حفريات بداية هذا القرن بقايا قصر بُني بالحجارة من المحتمل أن يكون قصر ثاني الخلفاء الفاطميين القائم بأمر الله (934 – 964 م). بهذا القصر مدخل متعرج ويغطي أرضيته بلاط من الفسيفساء، وهو يمثل آخر تجليات هذا الفن وهذه الصناعة التي اندثرت بعد القرن 10، ونلاحظ إلى الآن وجود خزانات مياه كبيرة وراء البرج وبداخله أيضا ينسبها البكري إلى الخليفة الفاطمي الأول عبيد الله المهدي الذي كان يهدف من وراء تجهيز المدينة إلى جعلها منيعة أمام كل الأخطار. ويبقى تاريخ تشييد البرج الكبير موضع شك إذ يفترض أنه بُني قبل سنة 1595 (سنة انتهاء الأشغال)، ويبدو أن الحصن تم على حساب الآثار المجاورة له، لذلك وقعت إعادة استعمال بقايا ساحات وبعض عناصر الزخرفة كنحت نافر لأسد، وقذافات على واجهة المعلم، وتخبرنا بعض النصوص أن المهدية وقع تشييدها أثناء فترة تأثير برج الأسد.
في بداية القرن 19، وفي سنة 1881 تحديدا تاريخ انتصاب الحماية الفرنسية بتونس تلقى البرج ترميمات عدة شملت المدخل والطابق السفلي والعلوي. ولقد تم استخدام المعلم لإيواء الجيوش الفرنسية قبل أن يتحول بعد ذلك إلى ثكنة عسكرية، ثم إلى سجن المدينة حتى سنة 1950.