1972 yılında Adıyaman'da doğdu. İlk, orta ve lise tahsilini Batman’da tamamladı. 1989’da Batman Endüstri Meslek Lisesi Motor Bölümü ve 1992’de Keçiören Sağlık Meslek Tamamlama Programı Radyoloji Teknisyenliğinden mezun oldu.
1994 yılında Gazi Üniversitesi Gazi Eğitim Fakültesi Coğrafya Öğretmenliği bölümünü bitirdi. 2021 yılında ise Anadolu Üniversitesi Açıköğretim Fakültesi Adalet Bölümünden mezun oldu.
1993 yılında Ankara Numune Eğitim ve Araştırma Hastanesi Radyoloji Teknisyeni olarak memuriyet hayatına başladı. TSK Çelik Harekâtı Hakkâri Çukurca Sahra Hastanesinde, Diyanet İşleri Başkanlığı ve Türk Kızılayı Hac Sağlık Ekibi Röntgen Teknisyenliği görevlerinde bulundu.
TÜRKAV Ankara Şube Kurucular Kurulu Üyeliği ve TÜRKAV Ankara Şube Başkan Yardımcılığı görevlerini de başarıyla sürdürdü.
1993 senesinden bu yana Türk Sağlık-Sen Üyesi olan Yılmaz, Türk Sağlık-Sen İşyeri Temsilciliği, Türk Sağlık-Sen Ankara 1 nolu Şube Kurucular Kurulu Üyeliği, Türk Sağlık-Sen Ankara 1 nolu Şube Başkan Yardımcılığı (Mali Sekreter), Türk Sağlık-Sen Ankara 1 nolu Şube Başkanlığı, Türk sağlık-Sen Genel Merkezi Denetleme Kurulu Üyeliği ve Türk Sağlık-Sen Genel Merkezi Denetleme Kurulu Başkanlığı görevlerinde bulundu.
19 Şubat 2022 yılında yapılan Türk Sağlık-Sen 7. Olağan Genel Kurulu’nda Genel Başkan Yardımcısı olarak seçildi.
İyi düzeyde Arapça, orta düzeyde İngilizce bilen Orhan Yılmaz, evli ve 3 çocuk babasıdır.