जयप्रकाश को कांग्रेस सोशलिस्ट पार्टी का महासचिव बनाकर देश भर में जनजागरण अभियान शुरू हो गया। जेपी उस समय 32 वर्ष के थे। जेपी द्वारा लिखित पुस्तक समाजवाद क्यों? ने उन्हें अग्रणी सिद्धांतकार के रूप में प्रसिद्ध कर दिया। 1936 में कांग्रेस के लखनऊ अधिवेशन के तुरंत बाद गांधी जी के कहने पर और नेहरू के सहयोग से, जयप्रकाश को नरेंद्र देव और अच्युत पटवर्धन के साथ 15 सदस्यीय कांग्रेस कार्य समिति का सदस्य मनोनीत किया गया। द्वितीय विश्वयुद्ध के दौरान साम्यवादियों से उनके वैचारिक मतभेद तीव्र हो चले और वैचारिक विभाजन ने उन्हें मार्क्सवादियों से अलग कर दिया व 7 मार्च 1940 को जेपी को जमशेदपुर में गिरफ्तार कर लिया गया। गांधी और नेहरू, दोनों ने उनकी गिरफ्तारी की कटु आलोचना की।
1940 के अंत में जेल से रिहाई के तुरंत बाद उन्हें पुन: मुंबई में गिरफ्तार कर लिया गया। कुछ दिन मुंबई के आर्थर रोड स्थित जेल में रखने के बाद उन्हें अजमेर के पास की बदनाम जेल देवली स्थानांतरित कर दिया गया। जेल में राजनीतिक बंदियों को सम्मानजनक सुविधा देने को लेकर जेपी ने भूख हड़ताल कर अधिकारियों पर दबाव बनाया, जिसके फलस्वरूप उन्हें पुन: हजारीबाग जेल भेज दिया गया। 8 नवंबर, 1942 को दिवाली के दिन भारत छोड़ो आंदोलन में हिस्सा लेने के जुनून में उन्होंने 17 फीट ऊंची जेल की दीवार तोड़कर बाहर की सांस ली। हालांकि 1943 में उन्हें फिर गिरफ्तार कर लिया गया। इसकी जानकारी उनके द्वारा प्रशिक्षित ‘आजाद दस्ता’ को मिली, जो जनकपुर में हमला बोल जेपी को आजाद कराने में सफल रहे, लेकिन इस आजादी की उम्र अधिक नहीं थी। दिल्ली से रावलपिंडी जाते हुए पुन: अमृतसर में उन्हें गिरफ्तार किया गया। इसी बीच 25 अक्तूबर 1944 को डॉ. लोहिया को भी इसी जेल में भेज दिया गया। युद्ध की समाप्ति के बाद सत्ता स्थानांतरण की वार्ता भी तेज होने लगी। लेकिन जेपी और समाजवादियों को यह सब रास नहीं आ रहा था और कांग्रेस पार्टी से उनका मोह भंग होने लगा। जेपी 21 अप्रैल को पटना पहुंचते हैं, तो मानो समूचा बिहार उनके स्वागत को व्याकुल है। पटना के गांधी मैदान में सम्मान सभा आयोजित है। लाखों की भीड़ के बीच युवा कवि दिनकर जी का एक गीत आज भी उतना प्रासंगिक है।
‘है ‘जयप्रकाश’ वह जो न कभी,
सीमित रह सकता घेरे में,
अपनी मशाल जो जला,
बांटता फिरता ज्योति अंधेरे में।’ ऐसे सत्कार, अभिनंदन फिर दुबारा पुन: 1974 के संग्राम में सुनाई पड़ा, जब वह इंदिरा गांधी के अधिनायकवाद के खिलाफ लोकनायक जयप्रकाश बने।