古山城位于内蒙古赤峰市东南50公里处，南为平泉，北为赤峰，西依山丘，东临老哈河，有叶赤铁路经过，又为赤朝公路交会点。城墙高大坚固，城内四角修筑了岗楼，城外又有护城壕，进可攻、退可守，是华北通向东北的交通命脉及重要关隘，历来为兵家必争之地。
抗日战争胜利后，以蒋介石为首的国民党统治集团将争夺重点指向东北。1945年《双十协定》刚刚签订，蒋介石就发布进攻解放区的密令。1946年1月，国民党第13军大举进占热河省，企图隔断华北与东北的联系，并在《停战协定》生效前，抢占了北票、朝阳、凌源、平泉，进而攻占了建平、平庄、古山等地，直逼承德和赤峰。
5月初，国民党军集结兵力向赤峰进犯。占领古山地区的是国民党第13军第54师第162团，系全部美械装备，还配属师属炮兵营2个连，共计1800余人。该团在当地扩张武装力量，并以古山为大本营修筑明碉暗堡，形成平庄、古山、莫里河左右翼联防战术，又依托古山高地优势，严密布防以保护城内主力部队的安全。
对于控制东北，党中央给予高度重视，早在1945年4月召开“七大”时，就提出了争取东北的战略任务，指出取得了东北，革命就有了根据地。1945年9月19日，中共中央发出指示，确定“向北发展，向南防御”的战略方针。12月28日，毛泽东为中共中央起草致东北局的《建立巩固的东北根据地》中指示：“国民党军队现在正向热辽边境进攻，如果没有受到打击，他们不久即将向东满和北满进攻。”中央审时度势，下令冀热辽军区：不论顽敌已否侵占承德、赤峰，我均须坚持热河阵地，打击顽军，直至顽军退出热河为止。
为落实中央要求，冀热辽军区首先进行整编：将热辽纵队第22、第27和第30旅缩编为冀热辽军区独立第1旅，下辖第65、第66和第70团，各团又下辖3个营；连队员额充实，配备干部能力突出，增强了队伍凝聚力和战斗力。
与此同时，冀热辽军区对战局进行了全面分析，确立了以古山为主战场、平庄和莫里河为分战场，牵制敌军力量、截断敌军救援的策略。具体部署：第70团担任主攻从楼子店出发，第1营消灭平庄之敌，其他两营攻击古山敌军主力；第66团从西水地出发消灭莫里河之敌，以策应第70团；第65团从刘家店出发配合主攻，第1营和第2营进攻古山车站，第3营夺取黑水，并向建平和老虎山前进以阻击敌朝阳方面的救援。随后，各团进行了政治动员，提出了严格的纪律要求，又对指挥联络及后勤保障作了安排部署，并补充了军需、军械物资。
为确保古山战斗的顺利进行，冀热辽军区令杨（得志）苏（振华）纵队在黄土梁子阻击平泉可能向古山增援之敌；令周仁杰旅集结天义打击敌军，同时阻击凌源、叶柏寿可能增援之敌；令热东军分区攻击朝叶铁路段，截断朝阳方面援军。这3路部队主要牵制、消耗国民党军第54师主力，为独立第1旅作战赢得宝贵的时间。
5月13日凌晨，古山战斗正式打响。平庄战场战斗激烈，第70团第1营迅速歼灭大部分土匪武装，而后集中兵力对敌正规军发起攻击。敌败退至一座院落内严防死守，凭借武器优势压制我军。我军对敌形成包围态势。莫里河战场第66团迅速突破敌军阵地，经过一天激战将敌大部分歼灭，残敌退回古山。古山主战场战斗最为激烈，第65团主力在古山车站遭到敌负隅抵抗，我军未能夺取车站，只清除了一些简易工事；第65团第3营顺利拿下黑水，向建平挺进以截断敌东退之路；第70团主力于城南、城西展开攻势，经多次强攻进入城内，曾一度占领敌仓库，并向城外抢运枪支、电话机、无线电报机等物资，但遭到敌中心碉堡重机枪扫射、古山高地的猛烈射击和预备队的冲击，付出了较大代价，反复激战后决定撤离战场。第一次总攻，我军占领了部分前沿阵地，基本控制了外围据点，打乱了敌军布局。
15日夜，我军调整部署发起第二次总攻，将战场逼至古山城。敌层层设防，据城死守。第66团第1营首先围攻黑山洼之敌，将敌主碉堡炸毁以扫清外围，而后向城西北侧进攻；第3营对城西南侧发起进攻，两营都曾突破和占领城西外壕，摧毁敌军碉堡数座，登城云梯几次架起但未能攻入城内。第66团组织小分队在古山西门挖交通沟楔入城内，而后第70团集中兵力进攻西门。然而，敌军派来援兵火力封锁住西门，敌我双方为占领西门展开激烈争夺战。战场上弹如急雨，我军几次强攻均被敌军火力压制，战士们咬紧牙关顽强战斗，终因伤亡过大被迫停止进攻。
18日下午，敌约2个连的兵力从城南门出发，准备接应围困平庄的部队。第65团发现后，对敌围追阻截，敌死伤惨重退回城内，我军也因此占领了东六家至古山铁路段。
晚上，我军集中兵力发起最后总攻。挖地壕、架云梯，步兵、尖刀排、突击队前赴后继迫近城墙，杨苏纵队也调来几架“三八”野炮助战。终于在19日凌晨，第70团摧毁古山城北防线进入城内；第66团由城南向北进军，从城北突破口入城支援；第65团继续掩护两团主力。随着部队陆续入城，我军逐渐稳住城北阵地，第66团在东、第70团在西，形成由北向南推进态势。敌我寸土必争，逐屋交战。无论是短兵相接的白刃战，还是互掷手雷的巷战，我军战士毫不畏惧，拼死收复了半个古山城。然而，位于城中心十字街的敌军大碉堡火力强大，战场一度陷入胶着状态。随后，敌军又调动所有预备队展开疯狂反攻，我军官兵士气高涨，拼死应战。随着碉堡被捣毁，我军乘势攻入敌团部。至19日中午，敌主力被全歼，我军收复了古山、平庄等地，取得了古山战斗的胜利。
古山战斗历时7日，毙伤俘敌1100余人，战斗之惨烈、伤亡之大在热河战史上罕见。古山战斗打击了国民党军不可一世的气焰，稳住了热河，守卫了东北根据地，为东北解放战争的胜利奠定了基础。时任冀热辽军区副司令员的李运昌，1992年在回忆起这场战斗时说道：“古山战斗英雄们的功绩永留史册！”