वर्ष 1991 में गढ़वाल संसदीय सीट से पहली बार चुनाव जीते और 1996 हार का सामना करना पड़ा। वर्ष 1998 में हुए उपचुनाव में उन्हें दूसरी बार हार का सामना करना पड़ा लेकिन 1999 में एक बार फिर से गढ़वाल संसदीय सीट से जीत हासिल की। इस बार उन्हें अटल बिहारी वाजपेयी सरकार में सड़क परिवहन एवं राजमार्ग मंत्रालय (स्वतंत्र प्रभार) मिला। सेना की पृष्ठभूमि और इंजीनियरिंग अनुभव का लाभ उन्हें प्रशासनिक निर्णयों में मिला जिसका असर देश के बुनियादी ढांचे के विकास में साफ दिखाई दिया।
वर्ष 2007 में स्थानीय लीडरशिप के विरोध को नजरअंदाज करते हुए भाजपा शीर्ष नेतृत्व ने उन्हें उत्तराखंड के मुख्यमंत्री की कमान सौंपी। हालांकि उनका कार्यकाल महज ढाई वर्षों का ही रहा लेकिन अल्प कार्यकाल में उनके कई निर्णयों और योजनाओं के कारण जनता में उनकी खास पहचान बनी।
विधानसभा चुनाव से ठीक पहले सितंबर 2011 में एक बार फिर से भाजपा के केंद्रीय नेतृत्व ने उन पर भरोसा जताया और खंडूड़ी को एक बार फिर से मुख्यमंत्री की कमान सौंपी गई। विपरीत परिस्थितियों में भी खंडूड़ी के नेतृत्व में पार्टी ने बेहतर प्रदर्शन किया लेकिन वे खुद कोटद्वार विधानसभा से चुनाव हार गए। वर्ष 2014 के लोकसभा चुनाव में एक बार फिर से गढ़वाल संसदीय क्षेत्र से सांसद निर्वाचित हुए।