Muhtemelen 209 (824) yılında bugün Özbekistan sınırları içinde bulunan Tirmiz’de (veya Tirmiz’e bağlı Buğ köyünde) doğdu
Kendisinin belirttiğine göre Merv'den gelip Tirmiz'e yerleşen bir aileye mensuptur. Benî Kays Aylân kabilelerinden Benî Süleym'e nisbetle Sülemî nisbesiyle de anılır. Tirmizî 235 (849) yılı civarında hadis tahsiline başladı. Önce Tirmiz'de, daha sonra Horasan, Irak ve Hicaz başta olmak üzere diğer bazı bölgelerdeki âlimlerden hadis öğrendi. Kütüb-i Sitte imamlarının her birinin hocası olan İbnü'l-Müsennâ, Bündâr diye tanınan Muhammed b. Beşşâr, Ziyâd b. Yahyâ el-Hassânî, Abbas b. Abdülazîm el-Anberî, Eşec el-Kindî, Fellâs, Ya'kūb b. İbrâhim ed-Devrakī, Muhammed b. Ma'mer el-Kaysî el-Behrânî ve Nasr b. Ali el-Cehdamî'den faydalandı. Diğer hocaları arasında İshak b. Râhûye, Kuteybe b. Saîd, Hennâd b. Serî, Ali b. Hucr, Ahmed b. Menî', İmam Buhârî, İmam Müslim ve Ebû Dâvûd gibi muhaddisler vardır. Tirmizî'nin Bağdat'a gitmediği, dolayısıyla Ahmed b. Hanbel'den istifade etmediği anlaşılmaktadır (el-Câmiʿu'ṣ-ṣaḥîḥ, nşr. Ahmed M. Şâkir, neşredenin girişi, I, 83). İlim tahsili için muhtemelen Mısır ve Suriye'ye de gitmemiştir. Tirmizî, uzun süre Buhârî'nin talebesi oldu, ondan pek çok hadis rivayet etti ve fıkhü'l-hadîsi öğrendi (Zehebî, Teẕkiretü'l-ḥuffâẓ, II, 634). Kendi ifadesine göre hadislerdeki illetler, râviler ve isnadlar konusunda Irak ve Horasan bölgelerinde Buhârî'den daha üstün bir âlim bulunmadığı için hocasından bu konularda da büyük ölçüde yararlandı (el-ʿİlel, V, 738). Ayrıca Buhârî'nin et-Târîḫu'l-kebîr'i Tirmizî'nin ilel konusunda en çok faydalandığı kitaplardan biridir. Buhârî de Tirmizî'nin ilmini ve zekâsını takdir etmiş, el-Câmiʿu'ṣ-ṣaḥîḥ dışında ondan bir (veya iki) hadis rivayet etmiş, Tirmizî'nin naklettiğine göre kendisine, "Aslında benim senden faydalandıklarım senin benden faydalandıklarından daha çoktur" demiştir (İbn Hacer, IX, 389). Tirmizî'nin Buhârî'den çok faydalanmasına ve kendisinden pek çok hadis öğrenmesine rağmen el-Câmiʿu'ṣ-ṣaḥîḥ'inde ondan hiç hadis almaması, İmam Müslim ile ("Ṣavm", 4) Ebû Dâvûd'dan ("Vitir", 11) birer hadis rivayet etmesi bu üçünün genellikle aynı hocalardan hadis nakletmesiyle açıklanmaktadır. İmam Müslim de Buhârî gibi ondan sadece bir hadis almıştır. Tirmizî, ilel konusunda Buhârî'den sonra en çok Abdullah b. Abdurrahman ed-Dârimî ile Ebû Zür'a er-Râzî'nin görüşlerinden yararlandı. İbn Halfûn el-Endelüsî, Şüyûḫu Ebî ʿÎsâ et-Tirmiẕî adlı eserinde onun hocalarını tesbit etmiştir (Ziriklî, VI, 36). Tirmizî'nin sika bir muhaddis olduğu hususunda âlimlerin icmâ etmesi onun hadis rivayetinde eriştiği güveni, en önde gelen âlimler için kullanılan "imam" lakabıyla anılması da hadis ilmindeki üstün yerini göstermektedir. Tirmizî el-Câmiʿu'ṣ-ṣaḥîḥ'i tamamladıktan sonra onu Horasan, Irak ve Hicaz bölgelerindeki âlimlere gösterdi, onların takdir ve tasviplerini aldı (İbn Hacer, IX, 389). Doğu İslâm dünyasındaki şöhretine rağmen İbn Hazm'ın Tirmizî hakkında "meçhul" terimini kullanması onun el-Câmiʿu'ṣ-ṣaḥîḥ'i ile el-ʿİlel'ini görmediğini ortaya koymakta, bu eserlerin V. (XI.) yüzyılın ilk yarısında Endülüs'te yeterince tanınmadığını göstermektedir. Bununla birlikte İbn Hazm'ın diğer bazı önemli şahsiyetler için meçhul ifadesini kullanmasına bakarak onun bu konuda kasıtlı davrandığı da ima edilmektedir (a.g.e., IX, 388). Tirmizî'nin pek çok talebesi arasında Ebü'l-Abbas Muhammed b. Ahmed b. Mahbûb el-Mahbûbî, Ebû Saîd Heysem b. Küleyb eş-Şâşî (Şâşî eş-Şemâʾilü'n-nebeviyye'nin de râvisidir), Ebû Zer Muhammed b. İbrâhim b. Muhammed et-Tirmizî, Ebû Muhammed Hasan b. İbrâhim el-Kattân, Ebû Hâmid Ahmed b. Abdullah et-Tâcir, Ebü'l-Hasan el-Fezârî el-Câmiʿu'ṣ-ṣaḥîḥ'i rivayet etmekle ünlüdür. Diğer talebelerinden muhaddis Hammâd b. Şâkir en-Nesefî ile Mekhûl b. Fazl en-Nesefî de anılabilir. Tirmizî 13 Receb 279'da (9 Ekim 892) Tirmiz'e bağlı Buğ köyünde vefat etti; onun Tirmiz şehrinde öldüğü de ileri sürülmüştür.
Tirmizî, yaşadığı devirde fıkıh mezhepleri yaygınlaştığı için her bir mezhebin belli başlı görüşlerini o mezhebin imamının önde gelen talebelerinden öğrenme fırsatı bulmuş, diğer Kütüb-i Sitte imamları gibi o da hiçbir mezhebe intisap etmemiştir (Mübârekfûrî, I, 352). el-Câmiʿu'ṣ-ṣaḥîḥ'e aldığı fıkhî hadislerin ardından o hadisle ilgili naklettiği diğer görüşler ve kendisinin bu görüşler arasında yaptığı tercihler fıkıh konusundaki derin bilgisini gösterdiği gibi kuvvetli hâfızâsını ve üstün zekâsını da ortaya koymaktadır. Nitekim Zehebî de Tirmizî'nin kuvvetli hâfızasına işaret etmek üzere, onun Mekke'ye giderken, daha önce rivayetlerini iki cüz halinde yazdığı bir şeyh ile görüşmesi sırasında bu hadisleri ve başkalarını adı zikredilmeyen bir şeyhe ezberden okuduğuna dair bir rivayete yer vermiştir (Teẕkiretü'l-ḥuffâẓ, II, 635). Tirmizî'den bir asır sonra vefat eden Hâkim el-Kebîr'in naklettiğine göre hocalarından biri Buhârî'nin vefatının ardından Horasan bölgesinde Tirmizî gibi ilmi, güçlü hâfızası, zühd ve takvâsı ile tanınan bir başka âlimin kalmadığını, onun takvâsı sebebiyle gözlerini kaybedinceye kadar ağladığını söylemiştir. Bu tür rivayetler ve daha başka olaylar Tirmizî'nin doğuştan âmâ olduğu iddiasının aksini göstermektedir. Tirmizî'nin çok duygulu bir insan olduğu, kendisine söz getirebilecek her davranıştan uzak durduğu, dünya malına değer vermediği ve bütün gayretiyle âhiretini imar etmeye çalıştığı bilinmektedir.
Kendisinin belirttiğine göre Merv'den gelip Tirmiz'e yerleşen bir aileye mensuptur. Benî Kays Aylân kabilelerinden Benî Süleym'e nisbetle Sülemî nisbesiyle de anılır. Tirmizî 235 (849) yılı civarında hadis tahsiline başladı. Önce Tirmiz'de, daha sonra Horasan, Irak ve Hicaz başta olmak üzere diğer bazı bölgelerdeki âlimlerden hadis öğrendi. Kütüb-i Sitte imamlarının her birinin hocası olan İbnü'l-Müsennâ, Bündâr diye tanınan Muhammed b. Beşşâr, Ziyâd b. Yahyâ el-Hassânî, Abbas b. Abdülazîm el-Anberî, Eşec el-Kindî, Fellâs, Ya'kūb b. İbrâhim ed-Devrakī, Muhammed b. Ma'mer el-Kaysî el-Behrânî ve Nasr b. Ali el-Cehdamî'den faydalandı. Diğer hocaları arasında İshak b. Râhûye, Kuteybe b. Saîd, Hennâd b. Serî, Ali b. Hucr, Ahmed b. Menî', İmam Buhârî, İmam Müslim ve Ebû Dâvûd gibi muhaddisler vardır. Tirmizî'nin Bağdat'a gitmediği, dolayısıyla Ahmed b. Hanbel'den istifade etmediği anlaşılmaktadır (el-Câmiʿu'ṣ-ṣaḥîḥ, nşr. Ahmed M. Şâkir, neşredenin girişi, I, 83). İlim tahsili için muhtemelen Mısır ve Suriye'ye de gitmemiştir. Tirmizî, uzun süre Buhârî'nin talebesi oldu, ondan pek çok hadis rivayet etti ve fıkhü'l-hadîsi öğrendi (Zehebî, Teẕkiretü'l-ḥuffâẓ, II, 634). Kendi ifadesine göre hadislerdeki illetler, râviler ve isnadlar konusunda Irak ve Horasan bölgelerinde Buhârî'den daha üstün bir âlim bulunmadığı için hocasından bu konularda da büyük ölçüde yararlandı (el-ʿİlel, V, 738). Ayrıca Buhârî'nin et-Târîḫu'l-kebîr'i Tirmizî'nin ilel konusunda en çok faydalandığı kitaplardan biridir. Buhârî de Tirmizî'nin ilmini ve zekâsını takdir etmiş, el-Câmiʿu'ṣ-ṣaḥîḥ dışında ondan bir (veya iki) hadis rivayet etmiş, Tirmizî'nin naklettiğine göre kendisine, "Aslında benim senden faydalandıklarım senin benden faydalandıklarından daha çoktur" demiştir (İbn Hacer, IX, 389). Tirmizî'nin Buhârî'den çok faydalanmasına ve kendisinden pek çok hadis öğrenmesine rağmen el-Câmiʿu'ṣ-ṣaḥîḥ'inde ondan hiç hadis almaması, İmam Müslim ile ("Ṣavm", 4) Ebû Dâvûd'dan ("Vitir", 11) birer hadis rivayet etmesi bu üçünün genellikle aynı hocalardan hadis nakletmesiyle açıklanmaktadır. İmam Müslim de Buhârî gibi ondan sadece bir hadis almıştır. Tirmizî, ilel konusunda Buhârî'den sonra en çok Abdullah b. Abdurrahman ed-Dârimî ile Ebû Zür'a er-Râzî'nin görüşlerinden yararlandı. İbn Halfûn el-Endelüsî, Şüyûḫu Ebî ʿÎsâ et-Tirmiẕî adlı eserinde onun hocalarını tesbit etmiştir (Ziriklî, VI, 36). Tirmizî'nin sika bir muhaddis olduğu hususunda âlimlerin icmâ etmesi onun hadis rivayetinde eriştiği güveni, en önde gelen âlimler için kullanılan "imam" lakabıyla anılması da hadis ilmindeki üstün yerini göstermektedir. Tirmizî el-Câmiʿu'ṣ-ṣaḥîḥ'i tamamladıktan sonra onu Horasan, Irak ve Hicaz bölgelerindeki âlimlere gösterdi, onların takdir ve tasviplerini aldı (İbn Hacer, IX, 389). Doğu İslâm dünyasındaki şöhretine rağmen İbn Hazm'ın Tirmizî hakkında "meçhul" terimini kullanması onun el-Câmiʿu'ṣ-ṣaḥîḥ'i ile el-ʿİlel'ini görmediğini ortaya koymakta, bu eserlerin V. (XI.) yüzyılın ilk yarısında Endülüs'te yeterince tanınmadığını göstermektedir. Bununla birlikte İbn Hazm'ın diğer bazı önemli şahsiyetler için meçhul ifadesini kullanmasına bakarak onun bu konuda kasıtlı davrandığı da ima edilmektedir (a.g.e., IX, 388). Tirmizî'nin pek çok talebesi arasında Ebü'l-Abbas Muhammed b. Ahmed b. Mahbûb el-Mahbûbî, Ebû Saîd Heysem b. Küleyb eş-Şâşî (Şâşî eş-Şemâʾilü'n-nebeviyye'nin de râvisidir), Ebû Zer Muhammed b. İbrâhim b. Muhammed et-Tirmizî, Ebû Muhammed Hasan b. İbrâhim el-Kattân, Ebû Hâmid Ahmed b. Abdullah et-Tâcir, Ebü'l-Hasan el-Fezârî el-Câmiʿu'ṣ-ṣaḥîḥ'i rivayet etmekle ünlüdür. Diğer talebelerinden muhaddis Hammâd b. Şâkir en-Nesefî ile Mekhûl b. Fazl en-Nesefî de anılabilir. Tirmizî 13 Receb 279'da (9 Ekim 892) Tirmiz'e bağlı Buğ köyünde vefat etti; onun Tirmiz şehrinde öldüğü de ileri sürülmüştür.
Tirmizî, yaşadığı devirde fıkıh mezhepleri yaygınlaştığı için her bir mezhebin belli başlı görüşlerini o mezhebin imamının önde gelen talebelerinden öğrenme fırsatı bulmuş, diğer Kütüb-i Sitte imamları gibi o da hiçbir mezhebe intisap etmemiştir (Mübârekfûrî, I, 352). el-Câmiʿu'ṣ-ṣaḥîḥ'e aldığı fıkhî hadislerin ardından o hadisle ilgili naklettiği diğer görüşler ve kendisinin bu görüşler arasında yaptığı tercihler fıkıh konusundaki derin bilgisini gösterdiği gibi kuvvetli hâfızâsını ve üstün zekâsını da ortaya koymaktadır. Nitekim Zehebî de Tirmizî'nin kuvvetli hâfızasına işaret etmek üzere, onun Mekke'ye giderken, daha önce rivayetlerini iki cüz halinde yazdığı bir şeyh ile görüşmesi sırasında bu hadisleri ve başkalarını adı zikredilmeyen bir şeyhe ezberden okuduğuna dair bir rivayete yer vermiştir (Teẕkiretü'l-ḥuffâẓ, II, 635). Tirmizî'den bir asır sonra vefat eden Hâkim el-Kebîr'in naklettiğine göre hocalarından biri Buhârî'nin vefatının ardından Horasan bölgesinde Tirmizî gibi ilmi, güçlü hâfızası, zühd ve takvâsı ile tanınan bir başka âlimin kalmadığını, onun takvâsı sebebiyle gözlerini kaybedinceye kadar ağladığını söylemiştir. Bu tür rivayetler ve daha başka olaylar Tirmizî'nin doğuştan âmâ olduğu iddiasının aksini göstermektedir. Tirmizî'nin çok duygulu bir insan olduğu, kendisine söz getirebilecek her davranıştan uzak durduğu, dünya malına değer vermediği ve bütün gayretiyle âhiretini imar etmeye çalıştığı bilinmektedir.