宋太祖还没有来得及完成统一大业，就死去了。他的弟弟赵匡义继位做皇帝，这就是宋太宗。

宋太宗决心平定北方。公元979年，他带领大军，攻打北汉。宋军把北汉的京城太原团团围困，猛攻猛打。北汉向辽国求救，辽国派兵前来援助，被宋军打得大败。北汉无力抵抗，只好投降。

宋太宗平定北汉以后，北汉有个有名的老将，叫杨业，也归附了宋朝。杨业就是传说中的杨老令公。他从小爱好骑马射箭，学了一身武艺。因为他武艺高强，英勇善战，人们称他“杨无敌”。宋太宗对杨业相当器重，起初让他担任郑州刺史，后来又让他担任代州(今山西代县)刺史，镇守北方边境。

公元980年3月，辽国出动十万大军，侵犯代州北面的雁门关。警报传到代州，杨业手下只有几千骑兵，力量相差太远，大家都很担心。杨业决定出奇制胜，带领几百骑兵，从小路绕到雁门关北面，在敌人背后进行攻击。辽军正大摇大摆向南进军，不料一声呐喊，宋军从背后杀了出来。辽军大惊，不知道宋军有多少人马，吓得四散逃奔。这一仗，辽国的一个驸马被杀死，还有一个大将被活捉。杨业以少胜多，打了一个大胜仗。宋太宗非常高兴，特地给杨业升了官。从此，“杨无敌”的威望越来越高了。

杨业立了大功以后，一些大官僚非常妒忌。他们恐怕杨业的声望和地位超过自己，就设法排挤陷害他。防守边境的主将潘美，还上疏说杨业的坏话。但宋太宗不听这些坏话。他把这些奏疏封起来，送给杨业，表示对杨业的信任。那些大官僚的陷害，暂时算是搁下来了。

过了几年，辽景宗耶律贤病死，他的儿子辽圣宗耶律隆绪继位。辽圣宗年仅十二岁，由他的母亲萧太后执政。宋太宗见辽国政局发生变动，认为机会来了，决计出兵收复辽国占领的燕云十六州。

公元986年，宋太宗派三支大军攻辽。东路由大将曹彬带领主力部队，向幽州前进;中路由田重进率领，攻取河北西北部等地;西路由潘美率领，攻取山西北部各地。杨业就在西路军中，做潘美的副将。