Mardin’in ne zaman ve kimler tarafından kurulduğu kesin olarak bilinmiyorsa da kuruluşu Eski Yakın Doğu tarihine göre Subariler zamanına kadar dayanmaktadır

Alman Arkeologu Baron Marvan Oppenheim’in 1911-1929 yılları arasında yaptığı kazılardan elde edilen sonuçlara göre: Subariler’in Mezopotamya’da (MÖ4500-3500) yaşadıklarını bu tesbite sebep olarak da Sümer ve Babil katları arasında buldukları kiremitleri göstermiştir Gırnavaz Örenyerinde 1982 yılında başlayıp 1991 yılına kadar sürdürülen arkeolojik kazı ve araştırmalar sonucunda Gırnavaz’ın MÖ4000’den MÖ7 yüzyıla kadar sürekli olarak yerleşme alanı olduğu anlaşılmaktadır MÖ4000 sonlarına tarihlenen Geç Uruk Devri, Gırnavaz kalıntılarının en alt kültür tabakasını oluşturmaktadır Bu kültür tabakasının üzerinde yer alan Er Hanedanlar Devri mimarî tabakaları daha çok ölü gömme adetleri açısından araştırılmış ve değerlendirilmiştir Tespit edilen mezarlara göre ölüler bu devirde eski Mezopotamya geleneklerine göre açılan çukurlara dizler karınlarına çekik olarak yatırılmakta daha sonra yakılan hafif ateşle manevi temizlik sağlanarak dünyevi ilişkiler kesilip çukurlar kapatılmaktadır Mezar içinde şahsi eşya olarak metal silahlar, metal süs eşyaları ve mühürler kült ve seramik kap örnekleri çok sayıda tespit edilmiştir

Sümer Kralı Lugarzergiz MÖ2850 yılında Akdeniz’e kadar uzandığı seferinde Mardin’i hükmü altına almıştır

Şehircilik, sulama ve tarım alanında ileri bir seviyeye ulaşan Sümerler, geniş fetihler sonucu güçlerini kaybedince 30 yıl sonra Mardin’i Akadlar’a bırakmışlardır(MÖ2820) Akadlar, MÖ2500 yıllarında Sümerler’le anlaşarak Akad-Sümer Devletini kurmuşlardır

ProfDr Ekrem Memiş’in “Eski Çağ Türkiye Tarihi” adlı kitabında: “ Mezopotamya’da büyük İmparatorluk vücuda getiren Sami Kökenli Akadların vesikalarından anlaşıldığına göre, MÖ3000 sonlarında Mardin merkez olmak üzere Güneydoğu Anadolu Bölgesi ile Kuzey Mezopotamya’daki Musul ve Kerkük dolaylarında Hurriler adıyla anılan bir kavim oturuyordu” diye yazar

Mardin, MÖ2230’lu yıllarda Elam şehri oldu Amuri ailesinin altıncı ferdi olan Hammurabi, Sümer topraklarını Babil’in idaresi altına alınca bu kez de Babil Devleti’ni kurmuş, ardından Yukarı Mezopotamya’ya saldırınca Mardin’i de istila ederek topraklarına katmıştır(MÖ2200-1925)

MÖ1925 yıllarında Mardin’i işgal eden Hititler, bir yıl sonra şehri terk etmişlerdir İran dolaylarından gelen Ari Irkından Midiller, Mardin ve çevresini ele geçirmiştir 500 yıl hüküm süren Midiller bilinmeyen bir sebepten Mısırlılar’a vergiye bağlanmışlar ve bir Midil Prensesini de Mısır Firavunu ile evlendirmişlerdir MÖ1367 yılında Midiller arasında iç savaş çıkınca bu fırsatı bilen Asur Kralı Asurobalit, Mardin ve çevresini topraklarına katmıştır

MÖ1190’da Anadolu’dan gelen bazı Ari ırk kavimleri Mardin’i almışlardır 60 yıl sonra ITıplatpalasır; Sincar, Nusaybin ve Mardin’den geçerek 20 bin Maşiki kuvvetinin koruduğu Kemecin’e saldırıp onları yendikten sonra Mardin ve çevresini tekrar ele geçirmiştir

MÖ1060’da IAsurnasırbal zamanında Hititler birleşerek Gılgamış yakınlarında Asurlular’ı yenmişlerdir Asurlular’ın tekrardan kuvvetlenmeleri üzerine, Mardin Asur hakimiyetine girmiştir MÖ800 yılına kadar Asurlular’ın elinde kalan Mardin, daha sonra Urartu Krallığı egemenliğine geçmiştir Urartu Kralı Mimes zamanında Mardin 50 yıl Urartu idaresinde kalmıştır

MÖ612 yılına kadar Sityaniler, MÖ618 yılında ise İran’dan gelen Midiler buraları ele geçirmiştir

MÖ335 yıllarında Büyük İskender Mısır’ı aldıktan sonra Mezopotamya’ya gelerek İran’a gitmek için Mardin’den geçer Buraları da istila eden İskender’in MÖ323 yılının 28 Mayıs’ında Babil’de ölümünden sonra komutanları arasında devlet pay edilir ve Mardin doğu bölümünde kaldığı için Nikanır denilen General Slevkos’un payına düşer(MÖ311)

MÖ131’de Mardin ve çevresi Urfa Krallığı(Abgarlar) topraklarına katıldı MS249’da Roma hükümdarı Filibos saltanatının 5yılında bir isyan başlatıp IXAbgar’ı memleketten kovmuştur Şehrin Valiliğine de Hapsioğlu Uralyonos tayin edilmiştir Bu arada Mardin’de Urfa’ya bağlı olduğu için Roma egemenliğine girmiştir MS250 yılında Dakiyos, Pers ülkesini zaptetmiştir Bu sırada tahribat gören Nusaybin’i de onarmıştır 330 yılında ateşe ve güneşe tapan Şad Buhari isminde bir kral Mardin Kalesinde rahatsızlığı sebebiyle kalır Kalede kaldığı süre içerisinde iyi olunca kendisine kasır yaptırıp 12 yıl boyunca burada yaşar Daha sonra Kral, memleketi Pers’ten birçok asker ve sivil getirtip, onları Mardin’e yerleştirir 442 yılına kadar getirilen insanların vasıtasıyla şehirde birçok gelişme olur 442 yılında halkı kasıp kavuran amansız bir veba salgını şehri yaşanmaz hale getirir Yaklaşık 100 sene sonra Ursiyanos adlı Romalı bir kumandan büyük bir ekiple Mardin’i 47 yılda inşa etmeyi başarır ve halkın tekrar buraya gelmesini sağlar Bu süreç içerisinde Persler’in ünlü merkezleri olan Dara yeniden inşa edilmiştir Mardin’de Bizanslar 640 yılında HzÖmer’in kumandanlarından İlyas Bin Ganem’in işgaline kadar varlıklarını devam ettirmişlerdir Mardin ve çevresi, 692’de Emeviler’in, 824’te Halife Memnun zamanında Abbasiler’in hakimiyetine girmiştir Bu dönemde İslamiyet hızla yayılmıştır

885-978 yılları arasında buralarda hüküm süren Hamdaniler’in kaleyi kesin olarak zaptedişleri 895 yılına rastlar Doğal olan kalenin bazı yerlerine surlar yaptırarak bazı yerlerini de onararak günümüze kadar dimdik kalmasını sağladılar 990 yılında ancak Musul’da tutunabilen Hamdaniler’in topraklarını birer birer ele geçiren Mervaniler, Mardin’i de zapt ederler Mardin ve çevresinde çarşılar, camiler yaparak onarımlarla İpek yolu üzerinde bulunan bu önemli şehri ticari açıdan canlandırırlar

Alparslan’ın Malazgirt zaferinden sonra Türkler’in Anadolu’ya ulaşan akınları neticesinde gittikçe zayıflayan Mervaniler Devleti, Nusaybin’de 1089’da Selçuklular’a yenilerek onların hakimiyeti altına girer

Artuklular’dan İl Gazi Bey Mardin’i 1105’te ele geçirerek devletin başkenti yapar Halep’i aldığı gibi Haçlılar’a karşı giriştiği mücadeleler dolayısıyla İl Gazi Bey büyük ün kazanır Antakya Haçlı Prensi Roger’i yenerek Silvan’ı da ele geçirir İl Gazı’nın ölümünden sonra oğulları ve yeğenleri devletin başına geçerek Diyarbakır, Harput Kalesi ve civarına hakim olup, Haçlıları, Frankları, Urfa Kontu’nu, Bilecik Haçlı Senyör'ünü ve Kudüs Kralı Bodven’i yenerek büyük başarı kazanırlar Böylece Artuklular bölgede büyük devlet kurarlar Bu devletin 304 yıllık egemenliği sürecinde çok sayıda tarihi camii, medrese, hamam ve kervansaray yapılmış, birçok cami, medrese ve manastır onarılmıştır

Timur, Artuklular döneminde 1393’te Mardin Kalesini kuşatıp işgal etmeye çalışsa da başarılı olamaz Timur, 1395 yılının Ramazan ayında Mardin’i almak için yeni bir kuşatma hazırlıklarına Kızıltepe’de otağını kurarak başlar Mardin halkı kaleye sığınarak Timur’un şiddetli hücumlarına karşı koymak suretiyle o zamanın en büyük ordusu ve hükümdarını başarısızlığa uğratmıştır

Artuklular halkın bu başarısından dolayı Mardin’i onarma faaliyetine girişirler 15yüzyılda güçlenen Karakoyunlular’ın bu devleti ortadan kaldırmak için Mardin’i 2 yıl kuşatması bu girişimleri aksatır 1409’da halk bu kuşatmaya daha fazla dayanamayarak yapılan anlaşma gereği şehrin kalesini Karakoyunlular’a teslim eder Mardin Karakoyunlular’ın egemenliğinde 61 yıl kalır Bu süreç içerisinde aşiretler ayaklanarak Karakoyunlular’ın rejimine karşı koyarlar ve devleti zaman zaman ele geçirirler Karakoyunlular’ı 1462 yılında yenen Akkoyunlular kalenin egemenliğini de ele geçirirler Bu dönemde Mardin’e Paşa olarak gelen Kasım Bey, Timur’un yakıp yaktığı şehri ve kaleyi onarmaya girişir Bu çalışmasını ve başarısını taçlandıran bu güne kadar ihtişamla ayakta durmayı başaran ve tarihe meydan okuyan Kasım Paşa Medresesini yaptırır

16yüzyılın başında Akkoyunlular’ı egemenliğine alan Şah İsmail güçlü bir Şii devleti kurmayı başarır Bu dönemde Anadolu’ya girip Şiiliği kabul etmeyenleri zalimce öldürmekten geri kalmaz Bu durumu gören Mardin hakimi, şehri zulme ve yağmalamaya karşı, halkı korumak için kalenin anahtarını kan dökmeden Şah İsmail’e teslim eder

Mardin’in kesin olarak Osmanlılar’ın eline geçmesi Mısır seferini düzenleyen Yavuz Sultan Selim döneminde gerçekleşmiştir Diyarbakır (Amid) Valisi Bıyıklı Mehmet Paşa ve Bilgin İdris-i Bitlisi, Yavuz Sultan Selim’in emriyle 1516’da Mardin ve kalesini dokuz aydan fazla kuşatmış, çeşitli illerden gönderilen Osmanlı takviye kuvvetleri, Doğu Anadolu’dan gelen Kürt Beylerinin kuvvetleriyle birleşerek kaleye defalarca saldırılar düzenlenmiştir Ancak halkın kahramanca karşı koyması iki tarafın da zor günler geçirmesine neden olmuştur Kartal Yuvasının yardım beklentisi boşa çıkınca Bıyıklı Mehmet Paşa ve İdris-i Bitlisi 7 Nisan 1517’de Mısır’da bulunan Yavuz Sultan Selim’e kaleye girmiş olduklarının müjdesini vererek Osmanlı devletinin ilk halifesini çok sevindirmişlerdir1517 yılında Mardin ve yöresi Osmanlı topraklarına katılmış, bir sancak durumunda Diyarbakır Beylerbeyliğine bağlanmıştır 1518’de Mardin Sancağı: Merkez kazası ile Savur ve Nusaybin nahiyelerinden oluşuyordu Mardin, uzun müddet Diyarbakır-Bağdat ve Musul’un Sancağı durumunda kalmıştır Mardin Sancağında halk: Göçebe ve yerleşik olarak iki bölüme ayrılmaktaydı Yerleşik halk inançları açısından: Yahudiler, Hıristiyanlar (Ermeniler, Süryaniler ve Keldaniler), Müslümanlar ve bir kısım Şemsilerden(Güneşe tapanlar) oluşuyordu