回家行动虽然圆满完成，但是像郑春燕、老司机、一连长这样的党员、共青团员，以及早就暗中加入地下党组织的人数，所占比例极小，所以第一兵团司令决定，将他们全部转移到大后方休整、整训，对广大官兵进行思想教育。
所以，临汾战场的解放军兵力还是只有三万余人。
由于阎锡山要确保晋中这个产粮区，所以他拒绝了蒋介石命令他继续向临汾派遣援军的指令，严令赵副总司令完善晋中防御圈的建设，要把解放军彻底挡住晋中平原外围，因为再有两个来月，晋中的小麦就要成熟了，只要能抢割到绝大部分小麦，阎锡山就不用愁军粮了。
由于临汾守军异常顽固，守将梁培璜为了尽量拖延时间，不仅在战斗中使用了毒气弹，他还重新制定了“八杀令”：
奉命进攻迟延不进者杀；
主官伤亡次级不挺身而代行职务者杀；
谎报军情企图卸责者杀；
未奉令放弃守地者杀；
邻阵被陷不坚持本阵地者杀；
滥行射击虚报弹药、阵前无敌尸者杀；
奉令赴援迟延不进者杀；
未奉令放弃守地者杀。
并由上一级军事主官组建督战队，严格执行“八杀令”，所以解放军打的很艰苦，鉴于强攻的话、伤亡会更大，徐司令调整战术、放慢了进攻的节奏，因为此时，徐司令考虑的已经不仅仅是如何拿下临汾城了，他的眼光看得更远。
假如解放军不计伤亡的猛攻，是可以短时间内攻下临汾，肯定会造成更大伤亡只是一部分原因，更重要的是那样做，一定会让晋省野战军司令部产生一种紧迫感，加强、加快晋中防御圈的基础建设力度，这对徐司令正在谋划的晋中战役蓝图、会造成较大阻碍。
不是只有阎锡山惦记晋中平原上的小麦，徐司令也早就看到了这一点，不过与阎锡山要抢割老百姓的小麦不同，徐司令主要是通过地方政府对广大群众进行宣传，让百姓尽可能的将小麦收回自家粮窖中。
但是没有解放军的武装保卫，广大晋中人民是无法与国民党军抗衡的，徐司令在临汾战役还在进行时，就已经开始谋划下一场战役了，放慢进攻临汾的进程，就是为了实施晋中战役做准备。
4月8日，解放军开始进攻位于电灯公司内的国民党军据点，由于电灯公司与临汾东关紧紧相连，是东关最后一个前沿阵地，解放军通过一场激烈战斗、拔下来这个钢筋水泥构筑的坚固堡垒。
4月9日，解放军开始同时挖掘四条坑道，至4月10日凌晨，解放军完全控制了突击地段的外壕，并且挖好了坑道和药室，并在一夜之间将一万二千六百斤炸药安装好。
10日18时，三条坑道同时爆破，将东关城墙打开缺口，同时，炮兵掩护步兵冲锋，突击队趁着掩护迅速冲锋，迅速登上城头，并向纵深发展，于11日晨拿下东关，国民党军被迫西撤，解放军完全扫清了临汾城的外围。
此时，国民党方面因总统、副总统选举而导致的派系矛盾公开化、白热化，作为晋省最高长官的阎锡山没有赶回晋省坐镇指挥，因为他暗中支持桂军首领李上将竞选副总统，所以他继续留在南京参加会议。当时国民党各方面要人齐集南京召开国民大会。
但阎锡山也不是完全不管临汾战场，南京方面派遣更多的飞机支援晋省，给临汾城内投放物资，猛烈轰炸攻城的解放军。
解放军为了尽量减小伤亡，也为了让部队得到锻炼，更是让攻城部队轮番休整，以便未来连续作战，徐司令决定让参战部队轮流进攻临汾城。
5月2日。
徐向前下达了对临汾的总攻命令。
临汾前线部队开始挖掘坑道，守城的国民党部队则进行着反挖掘和破坏，坑道作业需暗中通过外壕，一直挖到城墙底下，长度达百余米，所以作业量大。
为了加快掘进速度，解放军战士们用胸部顶着铁锹把挖掘，胸部顶起了一块块紫色血迹，运土的战士，膝盖上包着垫有棉花的布，跪在地上来回运送。
为了保证坑道作业的进行，其他部队在火力掩护下，展开了外壕争夺战，挖了多条暗道，同时伸向战壕底部，解放军就是在极其危险和艰苦的条件下，在主攻方向上挖了破城、争夺护城阵地等不同战术目标的十二条坑道。
5月16日。
坑道终于挖掘成功，徐司令决定提前发起最后的总攻，工兵开始向两条坑道内填充炸药，由于国民党空军白天的狂轰滥炸，所以解放军在夜幕降临后，成功爆破坑道。
解放军不怕牺牲的登上城垣、并立即向临汾城内的纵深发展，经过激烈的巷战，守城国民党部队开始四处逃窜，凭借各种战壕、碉堡、居高临下的楼顶据点负隅顽抗。
战至5月18日，临汾城内的巷战逐渐平息，残余的少量国民党守军从西门逃出，国民党守城总指挥梁培璜及协助其指挥的两名日本军官均被活捉。
临汾战役胜利结束。