並官復原職。三年後，海瑞晉升為右遷都御史，就任應天。上任後，海瑞雷厲風行，大力整頓吏治，這些人都不敢與海瑞正面交鋒。畢竟，這可是連皇帝都敢懟的恐怖存在，這些勳貴都被他治理得服服帖帖。在這個名目中，海瑞還算個明白人，他的為官之路確實坎坷。此外，他大力推行一條鞭法，要求這些權貴將侵佔老百姓的土地歸還給老百姓。然而，這侵犯了勳貴們的利益，他們暗中給海瑞使絆子。明穆宗綜合考慮後，不得不對勳貴做出讓步，將海瑞調離應天，給了他一個閒職。海瑞被調走時，大批百姓跪地痛哭流涕，捨不得他離開，並把他的畫像掛在牆上。

海瑞去世後，家無餘財，一貧如洗。大批百姓自發為其送葬，祭拜的人更是排成長龍，長達數百里。作為帝王，或許不喜歡海瑞，但他對天下百姓和國家社稷是有大功的，理應配享太廟。