उनका जाना बनारस के संगीत जगत को भी अखर गया। सितार वादक देवब्रत मिश्र का कहना है कि पद्म विभूषण पंडित शिवकुमार शर्मा का जाना दुखद है। उन्होंने वाद्ययंत्र संतूर को शास्त्रीय संगीत में नई ऊंचाई प्रदान की। भारतीय संगीत के वे एक नक्षत्र के रूप में थे।
काशी की संगीत परंपरा से भी उनका गहरा रिश्ता था। उनके पिताजी बनारस के प्रसिद्ध गायक पंडित बड़े रामदास मिश्र के शिष्य थे और पंडित शिवकुमार शर्मा ने संगीत की शिक्षा अपने पिता से प्राप्त की इस नाते उनकी संगीत में बनारस की झलक दिखती है।