Bu tarihi bilgiler, tarihi eserler ve günümüzde harabe haline gelmiş eski yerleşim merkezlerinde bulunan kalıntılara dayanmaktadır.
M.S. 1200 yıllarına tarihlenen ve Artuklular tarafından inşa edilen tarihi camii, bu bilgileri doğrulamaktadır. Yapılan araştırmalara göre, şehir birçok savaşın ardından harap olmuş ve yer değiştirmiştir. İlk yerleşim yeri olan Haramhattat, bugünkü şehir merkezinin 10 km güneyindedir.
Kızıltepe'nin tarihinde bilinen ilk isimleri "Qoser," "Dunaysir," ve "Telermendir." "Telermen," Ermeni tepesi anlamına gelir ve 1915'e kadar bu bölge Ermenilerin çoğunlukta yaşadığı bir yerdi. Kurtuluş Savaşı sonrası Telermen, viran bir köy haline gelmiş ve 1937'de Kızıltepe adını almıştır.
Kızıltepe, Mezopotamya'nın verimli toprakları üzerine kurulmuş ve İpek Yolu'nun kavşağında bulunması nedeniyle tarih boyunca önemli bir yerleşim merkezi olmuştur. Bu nedenle birçok savaşa ve yağmaya sahne olmuş ve farklı milletler tarafından ele geçirilmiştir.
Artuklular döneminde ticaret ve konaklama merkezi olan Dünaysır, 13. yüzyıl başlarında Eyyubiler tarafından yağmalanmıştır. Daha sonra Selçuklu, İlhanlı, Memlük, Karakoyunlu, Akkoyunlu, Artuklular ve Timur devletlerinin yönetiminde bulunmuştur. Osmanlı hükümdarı Yavuz Sultan Selim'in Doğu Seferi sırasında ele geçirilmiştir ve Cumhuriyet dönemine kadar Osmanlı yönetiminde kalmıştır.
Artuklular döneminde çarşı, hamam, cami ve medreseleri ile zengin bir yerleşim birimi olan Kızıltepe, sürekli savaşlar ve yağmalar nedeniyle Osmanlıların eline yıkıntı bir köy olarak geçmiştir. Ancak Osmanlı döneminde tekrar onarılmış ve canlılık kazanmıştır. Son dönemlerde İpek Yolu'nun önemini kaybetmesiyle bu yerleşim alanının önemi azalmıştır. Cumhuriyet döneminde 1931 yılında adı Kızıltepe olarak değiştirilmiş ve Mardin'e bağlı bir ilçe merkezi haline gelmiştir.
