等到刘彻头脑清醒过来，查明真相后，他深受打击，后悔不已，开始检讨自己的过失。征和四年（公元前89年），武帝召集群臣，坦言：“朕即位以来，所为狂悖，使天下愁苦，不可追悔。自今事有伤百姓，靡费天下者，悉罢之。”武帝一生雄心勃勃，自信无比，能坦诚过错，在历代帝王中都是少有的。他也采取了一些弥补措施，比如废止方士的迷信活动，不再穷兵黩武，把治国的重心转移到发展生产、关注民生上来。
武帝垂暮之年，对皇位继承人也做了慎重考虑。后元元年（公元前88年），69岁的刘彻决定立7岁的少子刘弗陵为太子。但太子年幼，其母赵婕妤正当盛年，为了不让吕后专权的历史重演，刘彻赐死了赵婕妤。他还将一张周公背成王朝见大臣的图，赐给奉车都尉霍光，命其辅佐太子。武帝用自己卓绝的帝王之术，为儿子刘弗陵称帝铺平了道路。
后元二年（公元前87年），武帝在五柞宫病逝，享年70岁。他死后葬于茂陵（今陕西兴平东北），谥号“孝武”，庙号“世宗”。汉武帝在位54年，一生成就辉煌，他使汉朝成为当时世界上最强大的国家，是中国历史上最有作为的君王，他的威名流传万世。