في سنة 300 ه الموافق لسنة 912م خرج المهدي يرتاد لنفسه موضعا حصينا يدير منه حكمه بعيدا عن زحف الأعداء إلى أن وصل الى جزيرة متصلة بالبر كهيئة كف متصلة بزند فتأملها فوجد بها راهبا في مغارة فقال له بما يعرف هذا الموضع فقال له: يسمى جزيرة الخلفاء فأعجب بهذا الاسم فأسس مدينة المهدية وجعلها دار ملكه وحصنها بسور منيع وسوره بأبواب من حديد. ويبدو أن بناء السور تم حوالي950ه مبني من الحجارة الصغيرة وبه بابان أحدهما يسمى باب زويلة وهو الباب الثاني في هذا السور الذي يمتد على طول الشاطئ. وكان محصنا بأبراج مدورة ومربعة.وقد عد سور المهدية من أعظم وأمنع الأسوار في البلاد ويمتد فوق برزخ يصل المدينة بالبرنم فوق الردم الذي قام به المهدي من البحر الى الأرض. وقد تلاشت أهم أجزائه وبقيت منه بعض الشواهد بالبر والبحر.وعلى حيطان هذا السور علق جثمان مخلد بن كيداد المعروف بصاحب الحمار الذي هاجم المهدية وأشعل ثورة عرفت بثورة صاحب الحمار وبعد أن انهزم وهرب وعثر عليه بمغارة فاقتيد في قفص مكبلا بالسلاسل والأغلال قبل أن يعدم ويسلخ جلده وتفرغ أحشاؤه وتملأ بالقطن. وقد علق بالمكان الذي دق به رمحه.