येदियुरप्पा महज 15 साल की उम्र में संघ से जुड़ते थे। 1970 के दशक की शुरुआत में वह गृहनगर शिमोगा के शिकारीपुरा तालुक के जनसंघ प्रमुख बने। येदियुरप्पा शिमोगा की शिकारीपुरा सीट से 1983 में पहली बार विधायक चुने गए। तब से आठ बार वह यहां से जीत दर्ज कर चुके हैं। येदियुरप्पा आपातकाल के दौरान जेल भी गए। समाज कल्याण विभाग में क्लर्क की नौकरी करने के बाद शिकारीपुरा में चावल मिल में क्लर्क का काम किया। उन्होंने शिमोगा में हार्डवेयर की दुकान भी खोली।
2004 में नहीं बन थे पाए सीएम
2004 के चुनाव में भाजपा के सबसे बड़ी पार्टी होने के बावजूद येदियुरप्पा सीएम नहीं बन पाए। तब भी कांग्रेस और जदएस ने गठबंधन कर उन्हें सत्ता तक पहुंचने से रोक दिया था। धरम सिंह मुख्यमंत्री बने। खनन घोटाले में धरम सिंह पर अभियोग लगाने के बाद 2006 में येदियुरप्पा ने कुमारस्वामी से हाथ मिलाकर सरकार गिरा दी। तब समझौते के तहत पहले कुमारस्वामी सीएम बने। येदियुरप्पा के सीएम बनने पर जदएस ने समर्थन वापस ले लिया और येदियुरप्पा सात दिन ही सीएम रह सके।
2008 में पूर्ण बहुमत से सरकार बनाने के बाद अवैध खनन घोटाले में येदियुरप्पा पर अभियोग लगा और 31 जुलाई 2011 को उनको सीएम पद से इस्तीफा देना पड़ा। जमीन घोटाले में वारंट जारी होने के बाद उन्होंने 15 अक्टूबर को लोकायुक्त अदालत के समक्ष समर्पण किया। वह एक हफ्ते जेल में रहे। इसके बाद येदियुरप्पा ने भाजपा छोड़कर नई पार्टी कर्नाटक जनता पक्ष बनाई। 2013 के चुनावों में उन्होंने छह सीटें और दस फीसदी वोट हासिल कर भाजपा को सत्ता में आने से रोक दिया।
भाजपा में फिर वापसी
2014 के लोकसभा चुनावों में येदियुरप्पा की भाजपा में वापसी हुई। येदियुरप्पा ने 9 जनवरी को अपनी पार्टी का भाजपा में विलय कर दिया और भाजपा ने 28 में 17 सीटें जीतीं। 26 अक्टूबर 2016 को सीबीआई की विशेष अदालत ने उन्हें अवैध खनन मामले में बरी कर दिया। जनवरी 2016 में लोकायुक्त पुलिस की ओर से येदियुरप्पा पर सभी एफआईआर रद्द कर दी गई।