就这样怀着几分惆怅几分失落，赵普第二次告别中书，来到距京城不算太远的邓州城。不过，他依然关注着朝廷的动向，没有将政治情缘完全了却。也倒是，赵普是典型的政治动物，愈老弥坚。离开庙堂后，没有闲情逸致，唯有韬光养晦。
    雍熙三年（986）三月，太宗皇帝经过数年的准备，兵分三路，再度发动对辽朝的进攻，期望收复幽云十六州，建立盖世功业。但军事行动持续到五月下旬，就再度惨败。宋军班师后，损兵折将不说，又引起某些臣僚的非议。对此，太宗内心充满耻辱感，需要解脱，但还不得不强打精神对臣子们做出解释，以稳定众心。太宗再度陷于困境之中。这时，他突然想起赵普此前的奏疏。
    当朝廷大军北伐期间，身在外地的赵普曾给天子连上两道奏疏，上奏中除了指出用兵殃及百姓生产生活外，又特别告诫兵久则生变的危险，提醒天子留心前代兵变的教训。到兵败班师后，赵普再次上奏，一方面恳请天子保养圣躬，另一方面建议无为而治，永罢兵革，如此则四方夷狄自会慕化归顺。最后还诚恳地表达道：为臣壮志未酬，虽年老体衰，无征伐之功，但愿意竭尽忠诚以报效天子。
    太宗阅罢三份奏言，幡然悔悟不少，特别是读到要求追究北伐失败祸首罪责的一段话，马上意识到宿臣为自己解脱的苦心。明摆着，赵普虽然赋闲外地，却仍操心国运，主动替天子分忧。太宗深受感动，于是给赵普回复了手诏，表示同意放弃用兵的意见，又指出战败的原因都在于诸将不遵守圣命。消息传出，臣僚们也为这位老臣不屈不挠的精神感化，都称颂其忠心难得。
    显然，赵普坚忍顽强的意志，春风化雨般的努力，终于打动了多疑的天子。太宗重新审视后，发现赵普身上有很多优点，特别是化解僵局的能力无人可比，忠诚度看来也没问题，遂淡忘了以往的过节，拉近了与他的距离。
    次年二月，赵普调任山南东道节度使，改封许国公，迁至襄州（今湖北襄樊市），这表示朝廷没有忘记元勋宿旧。
    端拱元年（988）正月，朝廷要举行皇帝亲自主持的籍田大礼。赵普遂上表请求入觐，获得批准。礼仪活动期间，君臣相见，赵普激动得呜咽流涕，太宗一再抚慰，场面感人。随后，皇子陈王元僖向父皇上奏，称赞赵普是开国元勋，厚重有识，实为本朝难得的良臣，可与唐太宗身边的名臣魏徵、房玄龄、杜如晦相比，因此请求恢复其相位。
    至此，水到渠成。籍田礼结束后，太宗传旨将平庸的李昉调出中书，任命赵普为太保兼侍中，位列首相，次相则由太宗一手提拔的状元吕蒙正接任。这一年，赵丞相年已67岁。
    老到的赵普第三度执掌国政，在群臣眼里分明是元老重臣，没有人不敬重不忌惮的。而他本人却自知在宦海的时日不多，故注意把握分寸，既要满足天子，也要做些事情。于是，他劝说太宗将注意力集中于内部，不在意边境尺寸之争，着力强化天子和朝廷的集权统治，整顿秩序，开展建设，营造盛世气象。他的这些大政方针主张，颇得太宗赏识，纵然出现某些异议，也不计较。甚至太宗亲信的佞臣侯莫陈利用，气焰嚣张，无人敢管，也因赵普的坚持，被贬官流放。
    赵丞相偶然还会读《论语》，体会其中的精妙思想，在施政中有所参考，必要时也用来表达情怀。
    一天，太宗皇帝对赵普说：朕每每读书，看到前代帝王多妄自尊大，谁敢犯颜论事？如不虚心接受臣下进谏，乃是自我蒙蔽。君王若只依据自己的喜怒赏罚，岂能使天下归心！赵普随之对答道：天子如能赏罚无私，内外无间，上面讲求义理，下面竭尽忠诚，天下便不难太平。接着，赵普又针对皇上提出的治民之术的问题说道：陛下体恤百姓，每闻听有利病出现，无不即日采取措施，古代圣明君王爱民之心也不过如此。如此巧妙的对答，虽然有些离开主题，但却给君臣之间带来一种和煦、愉悦的气氛。
    在两年任内，因天子非同一般的眷顾，赵普享受到不少超常待遇。如考虑到他年岁大的缘故，特许在大暑时节中午便提前归第休息，又免去每日上朝的繁文缛节，遇有大事可直接上殿奏对等等。
    然而，好运也有到头的时候。到端拱二年冬天，赵普终于大病一场。他在患病卧床期间，太宗特意驾临其家慰问，并赐予大量钱财。
    夕阳无限好，只是近黄昏。大病之后，赵普感到身心疲惫，意识到自己无法适应繁重的政务。此时，他明智多了，懂得见好就收的道理，不想熬到被下诏免职那一步，于是主动上奏请辞。眼见他态度坚决，太宗只得勉强同意。
    翌年初，朝廷特授予赵普西京留守、河南尹的隆高官职，并保留其太保兼中书令的头衔。赵普离京之际，太宗皇帝又亲自来到他家相送。
    淳化三年（992）二月，疾病缠身的赵普连续三次上表请求致仕。天子派宦官赶赴洛阳探视抚慰后，恩准了他的请求，遂拜其太师，封魏国公。七月初，太宗特派赵普的侄婿张秉捎来珍贵礼物和问候，准备为他祝寿。想必赵普读到圣谕里的浓情话语，情绪激动，致使病情加剧。当月十四日，一代重臣赵普溘然长逝。
    据说，赵普临终前一直被梦魇纠缠，死去的赵廷美和卢多逊化作厉鬼追讨不已，家人不得不请道士作法，但收效甚微。
    --