百团大战全面胜利后，主力部队回归建制。但是，其他地区的战斗依然在进行着，八路军开始了以各个击破的游击战术，打的敌人闻风丧胆。在历史上称为百团大战的第二阶段。

1940年8月8日，彭德怀发出《战役行动命令》周密组织，统一指挥部队协同作战，聂、刘邓、贺关等华北八路军于8月20日全面展开正太路破击战。果断的决策，并且牢牢掌握了战役主动权。百团大战全面开展后，彭德怀密切注视着战局的发展动向，亲临前线，适时处置突发事变。敢打硬仗，在实践中锻炼提高部队。彭德怀认为，百团大战对于八路军三年的抗战工作是一个具体的检阅，对于八路军战斗力是一个新的提高。动员民众打人民战争，以人民战争赢得战役的胜利，是我党我军在革命战争中制敌获胜的法宝。

百团大战第二阶段，晋察冀军区主要进行了涞灵战役，第129师主要进行了榆辽战役，第120师主要破击了同蒲路。

1、涞灵战役

日军驻蒙军占领的涞源、灵丘地区，深入晋察冀边区西北部。驻涞源、灵丘及其附近的是日军独立混成第2旅、第26师各一部，共1500余人，另有伪军1000余人。晋察冀军区决定调集部队，组织涞灵战役 。1940年9月22日22时，涞灵战役开始，右翼队向涞源县城及其周围据点发起猛烈攻击。经一夜激战，夺占东、西、南关，日军退入城内。

2、榆辽战役

由阳泉经平定、和顺、辽县到榆社的公路，是日军突入太行根据地最深的一条公路。日军企图将该路向西南延伸，经武乡与白晋铁路相连，以达到分割大行区，灵活调动正太、白晋两线兵力的目的。1940年9月22日，八路军第129师下达榆辽战役命令  ，决定以突然袭击手段消灭榆社至小岭底之敌，收复据点摧毁公路，并乘势向辽县进展，相机收复辽县。

3、破击同蒲铁路

1940年9月12日，第120师下达了同蒲铁路北段行动计划，决心从9月20日开始破击同蒲铁路宁武、忻县段（重点在宁武、大牛店之间） 。1940年9月14日，第358旅从根据地娄烦以西地区出发，北越静乐、岚县公路，16日到达马家沟集结。该旅以第3支队（辖第7、第8团、特务营）袭击头马营。1940年9月18日24时，第3支队以特务营向头马营发起攻击，以第7、第8团打援。战斗至翌日晨，宁化堡日军40余人增援头马营，行至山寨村被打援部队包围歼灭。20日，羊圈岭日军约200余人前出至里鄢村企图反扑。该旅第716团于当日14时向里鄢村之敌发起攻击，次日拂晓，该敌惟恐被歼，逃回羊圈岭。