Después de la Mesa Redonda, Gandhi se reunió con Hoare, Ministro de Asuntos de la India en Londres y le pidió que resolviera el problema de la India. Hoare respondió sin rodeos a Gandhiji que no se le dará nada y que ahora ni siquiera permitiremos que el Congreso sobreviva.
Así, el 28 de diciembre de 1931, Gandhiji volvió una vez más con las manos vacías de las puertas de los británicos. El nuevo virrey Lord Willingdon declaró al Congreso institución ilegal. El 4 de enero de 1932, el gobierno encarceló a Sardar Patel y Gandhiji en la cárcel de Yerwada sin dar ningún motivo. Sardar Patel pasó 16 meses con Gandhiji en la cárcel de Yerwada. Gandhiji no consumía té ni arroz.
Por eso durante este tiempo Sardar Patel no bebía té ni comía arroz. Cuidó plenamente de Gandhiji en todo momento y solía realizar sus pequeños trabajos. Gandhiji solía levantarse a las cuatro de la mañana, Patel también se levantaba a las cuatro. Si Gandhiji se hubiera levantado antes, Patel se habría levantado al mismo tiempo. Si Gandhiji hubiera dicho que deberías dormir un poco más, la respuesta de Patel habría sido:¿cómo puede ser que tú te despiertes y yo duerma? Después de salir de prisión, Gandhiji escribió en su diario que Sardar me sirvió tanto en la cárcel que me acordé de mi madre.
La madre de Sardar Patel falleció poco después de ir a la cárcel. El gobierno propuso liberar a Sardar bajo ciertas condiciones, pero Patel exigió una liberación incondicional. El gobierno se negó a liberar a Patel incondicionalmente. Patel lamentó la muerte de su madre en la propia cárcel.
Al año siguiente, 1933, Sardar recibió la noticia de que su antepasado Vithalbhai había muerto en el extranjero. Su cuerpo fue llevado a Bombay para recibir los últimos ritos. Todo el mundo quería que Vallabhbhai asistiera a su funeral, pero el gobierno propuso nuevamente liberarlo bajo ciertas condiciones y Vallabhbhai se negó a aceptar las condiciones del gobierno también esta vez. El gobierno probablemente no entendió hasta ahora que este hombre estaba hecho de hierro, no de hueso y carne.
La salud de Vallabhbhai se deterioró en la cárcel. El dolor en su nariz empeoró. Debido a esto se volvió difícil respirar. Un equipo de médicos examinó la salud de Sardar y le aconsejaron que se sometiera a una operación inmediatamente. Al final, el gobierno de Ghori accedió a liberarlos incondicionalmente. En 1934 d. C., el gobierno liberó a Patel. Patel llegó a Bombay desde Yerwada. De esta manera, después de sufrir mucho tiempo, se operó la nariz.
