1965 yılında Ordu ilinin Fatsa ilçesinde doğdu. Fatsa’da Kurtuluş İlkokulu, Fatsa Ortaokulu ve Fatsa Lisesini bitirdi. 1987 yılında Ankara Üniversitesi Siyasal Bilgiler Fakültesi Kamu Yönetimi bölümünden mezun oldu. Mülki İdare Amirliğine 1988 yılında Konya Kaymakam Adayı olarak başladı. Sırasıyla Eskişehir Sarıcakaya Kaymakam Vekilliği, Çorum Dodurga Kaymakamlığı, Batman Beşiri Kaymakamlığı, Ağrı Vali Yardımcılığı, Rize Hukuk İşleri Müdürlüğü, Rize Vali Yardımcılığı, Yozgat Vali Yardımcılığı, Reyhanlı Kaymakamlığı ve Lüleburgaz Kaymakamlığı görevlerinde bulundu. 21.07.2015 tarihinden bu yana Şahinbey Kaymakamlığı görevini sürdüren Cemalettin YILMAZ, evli ve üç çocuk babasıdır.