1977 के आम चुनावों में सत्ताधारी कांग्रेस की करारी हार के बाद जनता पार्टी के नेतृत्व में पहली बार गैरकांग्रेसी सरकार बनने का रास्ता बना. तब प्रधानमंत्री पद के संभावित दावेदारों में बाबू जगजीवन राम का नाम भी था. 1952 से लगातार सांसद चुने जाने वाले जगजीवन राम पहले नेहरू और फिर इंदिरा सरकार में मंत्री रह चुके थे. उस समय चुनाव जीतकर आए बड़े नेताओं के बीच उनकी दावेदारी मजबूत मानी जा रही थी. लेकिन नए प्रधानमंत्री के रूप में 24 मार्च, 1977 को मोरारजी देसाई की शपथ के साथ ही यह संभावना खत्म हो गई. आजादी के आंदोलन में सक्रिय भूमिका निभाने वाले जगजीवन राम प्रधानमंत्री बनने से रह गए.
दरअसल इमरजेंसी के दौरान अधिकांश विपक्षी नेता जेल में थे और कांग्रेस पार्टी की स्थिति काफी मजबूत थी. सत्ता में वापसी को लेकर आश्वस्त इंदिरा गांधी ने तब समय से पहले ही चुनाव की घोषणा कर दी थी. लेकिन इसी समय जगजीवन राम ने सरकार से बगावत कर दी और मंत्रिमंडल से इस्तीफा देकर कांग्रेस फॉर डेमोक्रेसी नाम से नई पार्टी बना ली. इसके बाद देश की राजनीति में जो तूफान आया उसने शीर्ष पर बैठी इंदिरा सरकार का तख्त गिरा दिया. जगजीवन राम की पार्टी ने वह चुनाव जनता पार्टी के साथ मिल कर लड़ा था. उस वक्त उत्तर भारत के दलितों ने पूरी तरह से कांग्रेस के खिलाफ वोट दिया था. दलित पृष्ठभूमि वाले जगजीवन राम को इसका काफी श्रेय भी दिया गया लेकिन बावजूद इसके वे प्रधानमंत्री नहीं बन सके. हालांकि बाद में चौधरी चरण सिंह के प्रधानमंत्री बनने पर जगजीवन राम उपप्रधानमंत्री बने, लेकिन बताया जाता है कि चौधरी चरण सिंह और जेबी कृपलानी के विरोध के चलते ही वे प्रधानमंत्री नहीं बन पाए थे.