一切都准备齐整后，宋孝宗以老将张浚为帅，坐镇扬州，以张浚手下李显忠和邹宏渊两位将领为北伐大将，挥师北上。在北伐之初，收复了灵壁和宿州，但是后来金军集结力量反攻，因为李显忠和邹宏渊两位将领之间的内部不和，致使宿州失守，此后又在符离大败，最终宣告了北伐的失败。
北伐的失败，让主和派的声音再次大起来，而此时的南宋也不可能再支持一次北伐，因而考虑到这些因素，宋孝宗答应了金朝退一步的议和条件，于隆兴二年和金国签订“隆兴和议”。
北伐的失败后，宋孝宗虽然没有放弃收复山河的打算，但是却把主要精力放在了内政的治理中。当时的南宋内部，政治腐败，社会矛盾激烈，人民起义四起，南宋处于风雨飘摇的境界中。宋孝宗将精力转至内政后，积极整顿吏治，裁汰冗官，惩治贪污，加强集权，重视农业生产。因此使得百姓富裕，五谷丰登，太平安乐，出现了南宋历史少有的小康治世，史称“乾淳之治”。
宋孝宗一生积极的想要通过北伐，从而收复山河，改变南宋向金称臣的屈辱局面。但是因为有心无力，没有有才能有干劲的将领可用，最终一切都成为了妄想。在经历了失败之后，宋孝宗心灰意冷，宋高宗去世后，便借口“守孝”，让太子赵惇监国，后来更是直接将皇位禅让给赵惇。
赵惇继承皇位之后，宋孝宗闲居重华殿，政治上的不得意，加之与光宗之间的不和，使得宋孝宗整日里闷闷不乐，最终引起病症。公元1194年，宋孝宗最终因病去世，享年六十八岁，谥号绍统同道冠德昭功哲文神武明圣成孝皇帝，庙号孝宗。葬于永阜陵。