1938年2月，日军第二十师团入侵晋南，彭杰如率第十师奉命转入浮山、翼城、沁水一带山区，建立起了游击根据地，与日军进行了长期作战，给日军予以较大杀伤。自1938年2月至12月，彭杰如率第十师在同蒲路南段至风陵渡、临汾至风陵渡沿线，展开对日军游击战，每次都有斩获，掳获日军物资颇丰，破坏日军通讯设施颇多。

　　1939年初，国民党军进行了整编，第十四军十师与第九十三军八十三师（原属十九军，1938年调入九十三军）对调，彭杰如升任第十四军副军长。

　　1940年，卫立煌将豫东反正的伪军整编为新编第七军，委任彭杰如为新七军军长。1942年3月，卫立煌调云南任中国远征军司令长官，彭杰如率新七军移守陕西韩城，归朱绍良的第八战区指挥，执行对中共陕甘宁边区的封锁任务。1944年初，彭杰如的新七军调入丁德隆的第三十七集团军建制。是年冬，彭杰如进入陆军大学将官班乙级第一期受训。

　　心有余悸到东北

　　抗日战争胜利后，国民党军全力抢摘胜利果实。1946年3月13日，国民党军第五十二军从苏军手中接管沈阳，并逐步进军四平；由于解放军率先占领本溪，国民党军不得不在东北原有的3个军的基础上，增调第六十军和第九十二军进入东北。然而，在解放军强大军事压力下，刚调入东北的第六十军一八四师于5月下旬在海城投降；五十二军二十五师于11月上旬在谖阳边门被包围，全师覆没。国民党军东北行营主任熊式辉被撤职，由陆军总参谋长陈诚接替东北行营主任。陈诚到东北同样回天无力，国民党军在东北被解放军打得稀里哗啦。

　　1948年1月，鉴于在东北战场上的屡次失败，蒋介石决定成立东北“剿匪”总部，任命卫立煌为东北行营副主任兼东北“剿匪”总司令。3月，国民党六十军从吉林撤到长春，与在长春城内的新七军组成第一兵团。卫立煌电邀老下级彭杰如到东北就任第一兵团副司令长官。

　　对于彭杰如来讲，在冯寿二地区与红军交手差点丢命的事记忆犹新，再加上国民党军在东北战场的连连败局，令彭杰如对赴东北战场心有余悸，一再托病拖延。但经不住卫立煌屡电相邀，只好于7月动身，8月到达沈阳。

　　如履薄冰地来到东北战场的彭杰如，以摸清情况为由，没有前往长春城内任职，而是留在沈阳总部工作。卫立煌嘱咐彭杰如，多找些十四军的旧属来工作，多利用故旧、同乡、黄埔同学等关系，拉拢和培植实力。

　　有了卫立煌的暗示，彭杰如到锦州、本溪、抚顺等地视察防御工事时，总是以拉实力为主。由此，他得到卫立煌的赞许，以至于第一兵团司令长官郑洞国几次电催彭杰如去长春履职，卫立煌都表示不同意。彭杰如本人更认为，长春不能久守，绝不能去。

　　9月中旬，辽沈战役正式开始，锦州被解放军包围。9月下旬，卫立煌派老部下陈铁和彭杰如前去葫芦岛设立指挥所，统一指挥五十四军、六十三军及预备师等部队。陈铁任指挥所主任，彭杰如任指挥所副主任兼参谋长。

　　10月4日，蒋介石到达葫芦岛，明令葫芦岛部队由侯镜如统一指挥。如此一来，彭杰如成了“空头副主任”、“空头参谋长”。

　　10月15日，解放军攻克锦州。10月下旬，彭杰如以牙痛为托词，向陈铁请假离开葫芦岛，由天津转向北平。

　　彭杰如到达北平不久，陈铁也由葫芦岛回到北平。二人认为此地不可久留，相约飞往南京。此时，解放军发动的淮海战役正在激烈进行中，国民党军败讯连传，南京震动，彭杰如等亦感惶恐。

　　11月中旬，彭杰如离开南京，返回老家湖南，准备招兵买马重建部队，伺机而动。

　　走上光明大道