मंदिर में विशाल शिवलिंग स्थापित है। काशी के दक्षिण में माधवपुर गांव में स्थित मंदिर के घाटों से ही गंगा काशी में उत्तरवाहिनी होकर प्रवेश करती हैं। मंदिर में हनुमान जी, माता पार्वती, भगवान गणेश, कार्तिकेय के साथ नंदी विराजमान हैं।
आचार्य अशोक द्विवेदी ने बताया कि गंगा अवतरण के बाद भगवान शिव ने जब उनको जटा से मुक्त किया तो वह क्रोधित होकर शिव के धाम से निकलीं। जब वह काशी में प्रवेश करने वाली थीं तो उनके मन में यह विचार आया कि हम भगवान शिव की सबसे प्रिय नगरी काशी के बीचों बीच होकर बहेंगे और काशी को नष्ट कर देंगे। भगवान शिव को जब यह ज्ञात हुआ तो उन्होंने मां गंगा को काशी के दक्षिण में ही त्रिशूल फेंककर रोक दिया। इससे मां गंगा को पीड़ा होने लगी। उन्होंने क्षमा याचना की।
भगवान शिव ने यह वचन लिया कि वह काशी को स्पर्श करते हुए प्रवाहित होंगी। साथ ही काशी में गंगा स्नान करने वाले भक्त को कोई जलीय जीव हानि नहीं पहुंचाएगा। गंगा ने जब दोनों वचन स्वीकार किए तब शिव ने अपना त्रिशूल वापस लिया।