这是全军唯一一个以城市名命名的建制单位，也是全军最早被授予荣誉称号的师旅级单位。这就是被誉为“陆军窗口”的部队——“光荣的临汾旅”。

“临汾旅”光荣称号的由来与70多年前那场历时2个多月的临汾攻坚战是分不开的。当时的临汾城是同蒲铁路枢纽，是汾河下游物资集散中心和晋南战略要地，拥有坚固的城防体系和设施，是国民党军在晋南固守的重要战略据点。

1947年运城解放后，临汾已成为晋南的一座孤城。为攻取临汾，全部解放晋南，中央军委决定由晋冀鲁豫军区第一副司令员徐向前任司令员组织前方指挥所，率部解放临汾。

国民党守军构筑起由外围警戒阵地、护城阵地、外壕和城墙主阵地以及城内纵深阵地和地道工事组成的4道防线，打算凭借工事固守，负隅顽抗。

1948年3月7日，临汾战役正式打响。面对守城的2.5万多名敌军，以及固若金汤的防线，我军在战斗初期的进展并不顺利。徐向前司令员横下一条心：不拿下临汾，誓不回兵。随后，他向参战部队宣布：“哪个旅率先破城，就授予哪个旅‘临汾旅’荣誉称号。”

4月1日，前方指挥部决定集中主要兵力兵器先打临汾城东关。受领任务后，“临汾旅”的前身——晋冀鲁豫军区第8纵队第23旅在首任旅长黄定基的带领下，向东关东北发起进攻。由于城防坚固，我军缺乏强有力的炮火支援，人力物力消耗很大。通过了解部队作战情况， 徐向前认为：“坑道是对付敌人的最好手段……我们要用‘土行孙’的办法攻打临汾。”战士们用手指代替锹镐，用膝盖代替脚板，用弹药箱代替小平车，无声无息地进行坑道作业。经过10天顽强战斗，该旅与友邻部队挖掘的4条坑道有3条同时爆破成功，突击队趁烟雾弥漫迅速登城，并乘胜迅猛向纵深发展。

东关攻破后，第23旅进行了第二次土工作业。守敌针锋相对，双方展开了以挖对挖、以炸对炸的拉锯战。经过27天激烈斗争，我军终于成功地把两条长110多米的破城坑道挖至城墙，炸药装填完毕，随着山崩地裂一声轰响，临汾城墙被炸开两个大缺口。由第23旅第68团和第69团组成的两支登城突击队迅速登上城墙，向城墙两侧和纵深突击。经过激烈巷战，我军全歼守敌，战役结束。

临汾战役历时72天，共毙伤俘国民党军2.5万人，俘第6集团军副总司令兼晋南总指挥梁培璜。

在临汾攻坚战中，第8纵队第23旅战功卓著，中央军委授予其“临汾旅”光荣称号。毛泽东称赞临汾战役是“开创了城市攻坚作战的成功范例”。