Şehrin güneyine açılan tek kapı olan Mardin Kapısı üzerindeki kitabeye göre, 909-910 tarihlerinde Cemil oğlu Amid’li mühendis Ahmed’in marifetiyle onarılmıştır. Kapı şu an tek girişlidir fakat yerden belli bir yüksekliğe kadar görülen kapı söve kalıntılarından anlaşıldığı üzere daha önce üç geçişli olduğu anlaşılmaktadır. Kalenin güneyinde yer alan Mardin Kapısı zamanla köklü değişimler geçirmiş üç girişi olan kapıdan bugün yalnız ortada olanı ayakta kalabilmiştir. Günümüzde sadece doğudaki giriş mevcuttur. Bu giriş şehre ve dışa açılan kapıları ile çift geçitli olarak düzenlenmiştir. Mardin kapısı iki katlı olup zemin kat planı dikdörtgendir. Birinci kata çıkışı sağlayan merdivenler günümüze ulaşamamıştır. Birinci kat ortada dikdörtgen iki yanda yarım daire planlıdır. Yarım dairelerin ortası daire planlı olup üç yönde dikdörtgen mekânlara açılmaktadır. Kapı, sonradan değiştirilmiş olan iki silindirik be¬denle savunulmuş, bugün ayakta kalan kapının sağ tarafındaki kemerli olan geçit, İslâmi dönem¬e aittir. Bu giriş şehre ve dışa açılan kapıları ile çift geçitli olarak düzenlenmiştir. Mardin Kapısı üzerinde yer alan kitabeler Abbasi halifesi Muktedir Billâh dönemine tarihlidir. Kapı üzerinde İslam öncesine ait kabartma ve bezemeler görülmektedir. Yer yer bitkisel motiflerle iç içe kullanılmış yazı bordürlerinin yanı sıra ayırt edilemeyen hayvan figürleri bulunmaktadır.
