Mesut Yılmaz 1983 yılında ANAP’tan hem milletvekili hem de bakan oldu. Kültür bakanlığı yaptı, Dışişleri bakanlığı yaptı ve 3 kez de başbakanlık yaptı
1983 yılının Mayıs ayında, yeni kurulan Anavatan Partisi'nde kurucu üye ve genel başkan yardımcısı oldu.
Parti Yılmaz’a Rize il örgütünü kurma görevini verince Rize il örgütünü kuracak isim bulmakta zorlandı. MDP, askerlerin desteğiyle iktidara geleceği beklenen parti olduğu için bütün ağır toplar oraya gidiyordu.
Üstelik ANAP’ı kurmayı kabul eden isimlere, vazgeçmeleri için baskı yapılıyordu.
İl örgütünün kuruluş dilekçesinin yazılması aşamasında bile bir kişi geri çekildi. Mesut bey, baktı ki olmuyor, ücret karşılığı dilekçe yazdırdığı daktilonun başındaki adamı da 15. kurucu olarak yazdırıp teşkilatı kurdu.
Aynı yıl Kasım ayında yapılan genel seçimde Rize milletvekili seçildi. Birinci Turgut Özal hükümetinde Bilgilendirmeden Sorumlu Devlet Bakanlığı'na atandı ve hükümet sözcülüğü yaptı.
İkinci Özal hükümetinde Dışişleri Bakanlığı'na atandı. 1988 yılından sonra Avrupa Demokrasi Birliği’nde genel başkan yardımcılığı yaptı.
Yılmaz, Akbulut Hükümeti'nde de üstlendiği bu görevden 20 Şubat 1990'da istifa etti.
15 Haziran 1991 tarihinde yapılan Anavatan Partisi Büyük Kongresi'nde genel başkanlığa seçildi.
Kurduğu hükümet 5 Temmuz 1991 günü TBMM Genel Kurulu'nda güvenoyu aldı. 20 Ekim 1991 günü yapılan genel seçimlerden sonra ana muhalefet partisi lideri olarak çalışmalarını sürdürdü. 24 Aralık 1995'te yapılan genel seçimler sonrası Anavatan Partisi ile Doğru Yol Partisi tarafından oluşturulan 53. hükümetin başbakanı olarak görev yaptı.
28 Şubat sürecinde mecliste muhalefet milletvekilleri azınlıkta olmasına rağmen, Cumhurbaşkanı Süleyman Demirel tarafından hükümeti kurmakla görevlendirildi.
Demirel'in eski partisi DYP'den kendine yakın milletvekillerini istifa ettirerek onları Demokrat Türkiye Partisi adı altında toplayıp ANAP-DSP-DTP koalisyonuna (ANASOL-D hükümeti, 55. hükümet) sokmasıyla 20 Haziran 1997'de üçüncü kez başbakan oldu. Siyasi tarihinin en büyük hatasını da burada yaptı. Zira demokrat Mesut Yılmaz inanmadığı antidemokratik birçok kara imza atmak zornuda bırakıldı.
25 Kasım 1998 tarihinde Cumhuriyet Halk Partisi'nin kendisi ve devlet bakanı Güneş Taner için verdiği gensoru önergelerinin TBMM'de kabul edilmesinden sonra istifa etti.18 Nisan 1999 tarihinde yapılan genel seçimlerde partisinin büyük oy kaybına rağmen DSP-MHP-ANAP koalisyonunda yer alarak Devlet Bakanı ve Başbakan Yardımcısı oldu.
3 Kasım 2002 seçimlerinde partisinin % 5 oy oranı ile barajın altında kalmasından sonra görevinden istifa etti. Rize'den milletvekili seçilecek oy oranına ulaşmasına rağmen lideri olduğu ANAP, %10'luk barajın altında kaldığından milletvekili seçilememişti.
Sivil hayata alışamadı. Sonradan Bağımsız vekil seçildi. Bu onu kesmedi. Sonrasında çocukların işleri ile ilgilendi ve bir çocuğu intihar edince de kendisi de öldü!
Devlet eski bakanı Eyüp Aşık aradı.
Ve Mesut bey için Rize’de hem mevlid hemde anma yapacaklarını söyledi.
Mevlid okuttu, İsmail Kahraman Kültür merkezinde anıları konuştular.
Tarihi mitingi hatırladınız mı? Başbakanken merkez camisinin kubbelerini bile dolduranlar merhum Mesut Yılmaz için salonu dolduramadı.
Bu siyasetin vefasızlığıdır.
Tayyip Erdoğan cezaevine giderken de garip kalmıştı!
Eyüp Aşık’ta, Azer Benli’de Ali Kemal bey de vefasızlık yoktur.