安顿好冯系降兵降将后，张汉卿转手再面对阎锡山。
张作霖委任阎锡山为行政委员会副主席，即日上任，并要求“中央有职事者，在地方不得兼任省职”。阎锡山知道此为调虎离山之计，推诿不就；后在“各方人士”敦促下，始于5月5日就职，但并不到北京视事。为彻底分化山西军政，张汉卿巧施妙计，他随即以中央命令，委任商震为新成立的山西第1军军长，利用商、阎之间的矛盾使双方的裂痕扩大。再委任阎锡山的心腹赵戴文为山西省省长，使他不至于有大的反弹。
阎锡山不得已进入北京之前，责成徐永昌、杨爱源以山西警备司令部正、副司令，负责山西善后，商震便被晾在了一边。山西军队整编，商震虽被任命为第1军军长，但却日益处于孤立的境地，商震未免愤怒却并没有太好的应对之策。
张汉卿控制异己部队的措施是借口军队整编未竣则不予发饷，对山西各部队而言，为维持对军队的供给均以贬值晋钞维持，而作为山西省驻军最高官员的商震此时有了发泄的渠道。由于第1军冯鹏翥师之高鸿文、黄光华两旅为商震旧部，自己人么，商震便竭尽省政府所能支配的财力，对该两旅时以现金补助。对其它支军队么，既不爽我，何必让你爽？一开始是军饷军资迟发，再后来就是拖饷，这让大伙感觉有些苛刻了，各将领因此不平，王靖国、孙楚等阎的嫡系将领更是表示极大的不满，情绪及于对立。
商震自知矛盾难以调和，索性使问题表面化。你阎锡山不仁，不念旧情，别怪我商某人不义。他先是提经省府委员会议通过裁撤阎锡山亲定的村政处，随即一次性撤换了25个县长！这样一来，弄得舆情大哗，终于演成了一次太原商民的驱商大会，在文瀛湖畔，群起声讨；军界也同时酝酿驱商。商震不能见容于山西军政界的局面由此形成。
歪打正着，破罐破摔，早有独立之意的商震就势借口奉张作霖中央之命，出兵西北“维持华中地方治安”，率旧部高、黄两旅及军校学员共9000余人，脱离了他赖以发迹的山西。张汉卿赏识商震的才干，早有延揽之意。商震脱离晋系后，所部随即被改编为人民军新编第19军，由商震任军长，归在戢翼翘麾下，作为日后进川的主力。
张作霖父子不能容忍山西的铁桶一块，但是又不能太过明显，只得采取分而化之的办法。“国防委员会”以整编新军为名，将晋军编为6个师，阎系将领王靖国、孙楚、徐永昌、杨爱源、张培梅分别担任新组建的整编师师长，另一个师长则由张汉卿特别简拔在不久前山西大战中表现优异的晋军团长傅作义担任，令晋军军界大跌眼镜。
傅作义15岁以优异成绩从北京清河镇第一陆军中学毕业，升入保定军官学校第五期步兵科。他一如既往，学习刻苦努力，守纪律、讲团结，尊敬师长。所有步兵四大教程及典范今、射击、马术等，考试成绩均优。特别是射击，弹不虚发，名列全校第一。1918年，傅作义从保定军校毕业，回到山西，参加阎锡山的晋军。初任独立炮兵第10团见习官，不久，转任排长、连长。1922年，升任少校团附兼团技术队队长，负责全团技术训练。由于以身作则，严格要求，体操、射击、劈刺、投弹在全省军事技术比赛中均名列第一。1923年任营长，经常把自己的薪金补贴在练兵上，得到官兵的信赖。在与冯系国民军的战斗中，傅作义营担任警戒任务，表现出色，得到晋军前敌总指挥张培梅的嘉许，力保其升任第4旅第8团团长。张汉卿知道傅作义还是因其杰出的守城能力，在抗日战争、解放战争中，他的这种能力多次展现，使熟读军史的张汉卿印象深刻。傅作义自1933年长城抗战以来，满怀爱国热情，戎马倥偬，率领所部在抗日战场上转战18000余里，进行大小战役、战斗290多次，屡立战功，成为国民党中坚决抗日的名将。在将来与日军的可能的决战中，这样的人才不可多得。
不过张汉卿越级提拔傅作义还有另一层意思：傅作义进入晋军时日不多，又处中下层，对晋系没有太多的羁绊和向心力，因而对张汉卿的提携深报感恩之心，反倒会是成为使晋军上下离心的一大因素。且因为他上升得太快了，容易引起晋军将领的妒忌和反弹，埋下内部不和的种子。
依照军、政、警分离的“传统”原则，山西警备司令部自然予以撤销，换成以新提升的吉鸿昌少将为山西武警支队司令。同样，吉鸿昌对晋系并无多大纠葛和热情，他本身又是晋系出身，倒让别人无话可说了。张汉卿又陆陆续续用交换防地、高层进修、明升暗降等方法，将晋军主将逐一调离或打乱编制，实际上瓦解了阎锡山的军事力量。
心腹大患消除，东南形势再上眼帘。皖系段祺瑞在此次“三方反直”活动中出了名义上的力量，但却最终没得到任何好处。皖系大将浙江督军卢永祥入沪后本来想有所作为，但在人民军陈兵20万的绝对优势压力下，立场急剧退缩，以由当初的索求浙沪联军总司令变为偏安浙江一隅。然而张汉卿铁定了心要解除皖系在政治上的残余力量，他以中央的名义，任命不安份的福建督理孙传芳兼任闽浙边防督办。
孙传芳入闽后于1923年3月19日任福建军务督理。1924年3月，他和第十二师师长周荫人合作，以突然袭击手段将掌实权的福建帮办王永泉赶下台，并以福建为基地想向浙江发展，手底已有3个师的兵力。他久有入主浙江之心，在他看来，物产丰富的浙江比之福建不知要好上多少，也有发展的潜力。在人民党/奉系逐渐控制了中央及主要地方的控制权之后，随着一个又一个曾经叱咤风云的人物退出了历史舞台，他对于前途的恐惧感日益加强，对于能够扩充势力的行为不遗余力。
浙军主力均在北部防备人民军，在获得张汉卿战后互不侵犯的保证后，孙传芳利令智昏，率军越过仙霞岭进攻浙军侧背。正史上此时为孙传芳联络江苏督军齐燮元对卢永祥展开“江浙大战”，由于直系已因局势的发展退出舞台，此战已变为“闽浙大战”。
由于浙军作战不力，且浙军第二师发生内讧，孙传芳军得以长驱直入，卢永祥连失温州、金华，欲将浙军总司令部移驻上海龙华并放弃浙江。张汉卿当然不希望出现一面倒的军事局面，让孙传芳坐大。他以中央名义在9月17日任命孙传芳为闽浙巡阅使兼浙江军务督理后，将福建全盘收归中央治下，使孙传芳苦心经营了一年的福建脱离其怀抱，也让其拿下浙江后合二省之力成为地方大军阀的心思泡汤，逼其不得不全力进行对卢永祥的军事行动。
接着又“响应”段祺瑞的呼吁，任命卢永祥为浙江巡阅使，兼理民政，并命令双方停战。卢永祥处于弱势，当然积极响应，只是孙传芳骑虎难下，进退不得：战，有违民意和抗拒中央之嫌，张汉卿正好明言正顺地行使武力；退，已无退路可行。
关键时刻，张汉卿抛来橄榄枝，抑或是救生圈。他委任孙传芳为南京军区装备部长，算是有了一个名义上的出路。而卢永祥，则卸下军事职务，改任省长。
这一仗人民军一枪未发，不仅获得了物产丰富的浙江地盘，还拿下福建，收编了4个师1个混成旅，编为预备役部队----为了提前应对未来的裁兵，各改编的部队均冠以“预备役”之名。
这样，张汉卿以敌制敌，先后解决掉孙岳、冯玉祥的国民军，阎锡山的山西国民军，皖系最后一支力量浙江卢永祥，以及福建孙传芳异己，使除了西南边陲诸省外，中国大陆再无大的反对力量，中国大陆在近代史上第一次实现了形式上的统一，比正史上同等情景提前了二十年。