मुंबई पहुंचने के बाद गुलजार निर्देशक बिमल रॉय, ऋषिकेश मुखर्जी और संगीतकार हेमंत कुमार के साथ सहायक के तौर पर काम करने लगे। उन्होंने बिमल रॉय की फिल्म 'बंदिनी' में अपना पहला गाना 'मोरा गोरा अंग' लिखा। जबकि बतौर निर्देशक के तौर पर पहली फिल्म साल 1971 में 'मेरे अपने' बनाई। शुरुआती फिल्मों में उनकी पसंद संजीव कुमार रहे, जिनके साथ गुलजार ने कोशिश(1772), आंधी (1974), मौसम (1975), अंगूर(1981) और नमकीन (1982) जैसी फिल्में बनाई।