3月23日发起，我攻城部队发起了临汾城外围战斗。我23旅集中了全旅82毫米口径以上的各型火炮31门，以火力掩护步兵发起冲击，由于步兵冲击和炮兵火力掩护协同较好，第68团很快攻占了敌外围4号、6号碉堡等集团阵地。但在向外城墙的进攻中，由于敌城墙过于坚固、高大，而当时我军又没有飞机、坦克，就连火炮也没有多少门，而且多为轻型火炮，所以组织了数次攻击，都没有突破敌城墙工事。而国民党守军在阵地失守后，迅速组织强大的兵力、火力对其丢失的阵地发起了反击，在敌人不断的火力、兵力反击下，我23旅进攻部队经过顽强的防御后，由于伤亡过大，不得不后撤，所占阵地又被敌人占领。同时，在其他部队作战方向，也都因为敌人坚固的工事与有力的抵抗，而伤亡较大，无所进展。
25日，我调整力量后，再次发起攻击。但由于我当时炮兵火力太弱，而敌人工事异常坚固，尤其是敌坚固的外城墙更成为其城外工事防御的依托，成为我攻城部队进攻的“拦路虎”。参加此次进攻作战的第8纵队、第13纵队及太岳军区部队攻击均不顺利，没有完成预定攻击任务。鉴于当时的客观情况，攻城前线指挥部遂命令停止攻击，进一步深入研究攻击战法，并做好更艰苦的攻坚准备。
“土飞机”在开动3月31日，攻城前线指挥部召开了团以上干部会议。在会上，前委总指挥徐向前下定决心说：“我们一定要打下临汾，打不下来，围也要把它围下来”。他要求攻城各部队整顿组织、深入动员、充分准备、以利再战。同时，他还要求改进战法，集中兵力，突击一点，攻克东关。他说，我们要采用“土行孙战术”，一定要打破敌人的“铜墙铁壁”。在会上，徐向前司令员还限令各部队于4月10日完成战斗准备，并发出号令，哪个部队最先突破登城，哪个部队就是“临汾旅”。为此，攻城前线指挥部决心首先组织主要力量夺取东关，再以此为跳板，攻占临汾本城。在徐帅“土行孙战术”的启发下，各攻城部队组织讨论后一致认为，我们地面上缺少飞机、坦克和大炮强有力的火力支援，强攻敌城墙不成，但我们可以开动我们的“土飞机”来代替空中的飞机轰炸，从地下挖掘通向敌城墙的坑道，用炸药从地下炸开敌人的城墙，打开我攻城的缺口。
从4月1日开始，我军暂时停止了进攻，转而展开了地下坑道的挖掘工作，开动了我们的“土飞机”。我攻城部队在每个突击方向上都开设了坑道指挥部，由旅首长担任指挥，工兵干部任技术指导，统一指挥步兵、炮兵、工兵等协同作战。在每条破城坑道方向上，除工兵分队以外，配属部分步兵组成挖掘作业分队。另配备步兵和炮兵各一部掩护地下坑道作业，以防止敌人袭击。 守敌发现我攻城部队挖掘坑道的企图后，采取各种措施破坏我坑道作业。他们先后从城下外壕挖掘反向坑道50余条，采取了对挖、临近时抢先爆破，用飞机和火炮猛烈轰炸坑道顶部，派敢死队进行破坏，甚至向坑道口施放毒气等多种破坏手段。我攻城部队则与敌人的破坏行动展开了反复的激烈较量，在地面以兵力、火力进行掩护的同时，挖掘坑道的工兵分队采取了增加坑道数量；发现敌挖掘的破坏坑道时，或抢先爆破、或绕道、或声东击西、或以假乱真，将敌军挖掘的破坏坑道引开等多种对策，从而一次次粉碎了敌人的破坏，成功地将坑道挖到了临汾外城墙底下。战场上出现了有趣的一幕，地下较量成了主战场，地面的战斗则主要是为了掩护地下行动的顺利进行。
