１９３７年７月７日，震惊中外的卢沟桥事变爆发，中华民族转入了全面抗日。日本侵略者更加疯狂地破坏中共地下党组织，反复“讨伐”抗日联军，搞“匪民分离”，制造无人区，不断“蚕食”游击区，企图将北满抗联聚歼于松花江下游地区。
为了粉碎敌人“各个击破”的阴谋，抗日联军主力于１９３８年冬突破了敌人包围，开始向黑嫩平原东北部、小兴安岭西麓的海伦西征。李兆麟以北满临时省委代表、联军总政治部主任的身份，负责协调松花江下游各抗联部队之间关系，统一指挥联合作战。
在西征途中，李兆麟及其将士们经受了难以想象的艰难困苦。行军中，李兆麟和战士们的手、脚都冻裂了，胡须和眉毛上挂着厚厚的冰霜。深山老林人迹罕至，所带的干粮吃完了，每日里从倒木上找一些干蘑菇吃，有时将皮带剁成小碎块煮了吃下去。一次，他们在第二批西征部队的宿营地找到一些已经发霉的马皮，大家用火烧烤后切碎，当干粮弃饥。马皮放到嘴里难嚼难咽，李兆麟鼓励战士们说：“同志们，为了抗日，我们必须保住生命。”他一边说，一边和大家一同吃掉了烂马皮。有时，他虽然也饿得全身无力，但他还乐观地给战士讲殷代伯夷、叔齐二人宁肯饿死首阳山也不食周粟的故事，鼓励大家战胜困难，去夺取胜利。
夜晚，部队在零下４０多摄氏度的森林里露营，大家围着烤火，有的劳累过度，烤着烤着便睡着了，一头扎到火堆里。当战友们急忙把这名战士救出来时，他已经牺牲了。此后，每当宿营时，李兆麟总是提醒大家不要离火堆太近，以免再次发生意外。当战士们都入睡以后，李兆麟却坐在篝火旁，一面加柴，一面和其他负责同志研究第二天的行动计划。
在西征的艰苦岁月里，李兆麟编写了著名的革命歌曲《露营之歌》：
铁岭绝岩，林木丛生，
暴雨狂风，荒原水畔战马鸣。
围火齐团结，普照满天红。
同志们，锐志哪怕松江晚浪生！
起来哟，果敢冲锋！
逐日寇，复东北，天破晓，
光华万丈涌。
浓荫蔽天，野雾弥漫，
湿云低暗，足溃汗滴气喘难。
烟火冲空起，蚊吮血透衫。
兄弟们，镜泊瀑泉唤起午梦酣。
携手吧！共赴国难，
振长缨，缚强弩，山河变，
万里息烽烟。
荒田遍野，白露横天，
野火熊熊，敌垒频惊马不前。
草枯金风疾，霜沾火不燃。
战士们，热忱踏破兴安万重山。
奋斗呀！重任在肩，
突封锁，破重围，曙光至，
黑暗一扫完。
朔风怒吼，大雪飞扬，
征马踟蹰，冷气侵人夜难眠。
火烤胸前暖，风吹背后寒。
壮士们，精诚奋发横扫嫩江原！
伟志兮，何能消减！
全民族，各阶级，团结起，
夺回我河山。
１９３８年１２月底，部队到达海伦县境内，在白马石后方基地与先头部队会师。西征的胜利，保存了北满抗联的一部分主力部队，为后来在广阔的黑嫩平原依托山区开展游击战争，打下了基础。