कहा जाता है कि जब मार्कंडेय ऋषि पैदा हुए थे तो उनके पिता ऋषि मृकंड को ज्योतिषियों ने बताया कि बालक की आयु मात्र 14 वर्ष है। बड़े होने पर मार्कंडेय माता-पिता की आज्ञा लेकर गंगा गोमती संगम पर भगवान शिव की तपस्या करने लगे। जब उनकी अवस्था 14 साल की हुई तो यमराज उनको लेने पहुंचे।
बालक मार्कंडेय भगवान शिव की पूजा में मगन थे और जैसे ही यमराज ने उनके प्राण हरने की कोशिश की तो महादेव स्वयं प्रकट हो गए और यमराज को उल्टे पांव वहां से लौटना पड़ा था। भगवान शिव ने उनको वरदान दिया कि मुझसे पहले तुम्हारी पूजा होगी। इसके बाद मार्कंडेय महादेव की पूजा आरंभ हो गई। इसी कारण इसे मार्कंडेय महादेव मंदिर के नाम से जाना जाता है।