सोळा वर्षांहून अधिक काळ जालिब तुरुंगांत होते. जनरल अय्यूब खान, याह्याखान, ज़िया उल हक़, ज़ुल्फ़िक़ार अली भुट्टो या पाकिस्तानच्या प्रत्येक राज्यकर्त्याने त्यांना कारावासात टाकले. खून करण्याच्या प्रयत्‍नापासून ते राजद्रोहापर्यंतचे सर्व आरोप लावून जालिबना विविध प्रकरणांत गुंतविण्यात आले. ते कैदेत असताना त्यांचा मुलगा वैद्यकीय उपचारांअभावी मरण पावला. जालिब यांचा १९५८ साली जप्त केलेला पासपोर्ट १९८८ साली म्हणजे तीस वर्षांनी परत करण्यात आला. त्यानंतर पाकिस्तानच्या सर्वोच्च न्यायालयाची परवानगी घेऊन लंडनला जायला निघालेल्या जालिब यांना कराची विमानतळावर परदेशी जाण्यापासून रोखण्यात आले.

कारावासात असताना रेडिओवरून लता मंगेशकर यांची गाणी ऐकून जालिब यांनी तुरुंगातले अत्याचार सहन केले, आणि त्यांतूनच आपल्याला जगण्याची प्रेरणा मिळाली असे ते नेहमी सांगत असत. हैदराबाद सिंधच्या तुरुंगात असताना ’लता’ नावाची एक मोठी कविताच त्यांनी लिहिली. जालिबची ’लता’वरील ती कविता आजही पाकिस्तानात प्रसिद्ध आहे. त्या कवितेतील काही ओळी :- 
मीरा तुझ में आन बसी है
अंग वही है रंग वही है
जग में तेरे दास हैं कितने
जितने आकाश में हैं तारे
तेरे मधुर गीतों के सहारे
बीतें हैं दिन-रैन हमारे।


तुरुंगवास
राजकीय हुकूमशाहीला बेधडक आव्हान
नीलो
प्रारंभिक जीवन