李兆麟，原名李超兰，曾化名李烈生、张寿篯，１９１０年１１月２日（农历十月初一）生于辽宁省辽阳县铧子乡小荣官屯的一户农民家中。
李兆麟中学未毕业，父亲就在劳累中故去，家境更加困难，不得不退学返乡务农。他常以古代传说中的大禹治水来自比，发誓要做一个有用于国家、造福于百姓的人。他精心绘制了“禹王治水业绩图”挂在家中，激励为民办事的决心。村里不管是谁家，只要有事找到了他，他都要千方百计地办好。为此乡亲们很敬重他，推选他为副村长。
１９３１年９月１８日，日本关东军悍然发动了蓄谋已久的侵略战争，整个沈阳城一片火海。以蒋介石为首的南京国民政府，命令东北军“绝对不抵抗”，撤回关内，将整个东北拱手送给日本侵略者。
此时，李兆麟学生时代的启蒙老师、原东北军的营长张一吼从北平寄信给李兆麟，要他速到北平参加抗日。李兆麟告别老母和外祖父及过门不久的夫人李淑香，卖了一车大豆作路费，踏上了抗日救国之路。这一天是１９３１年１１月８日。
在北平，经张一吼介绍，李兆麟化名李烈生，结识了东北民众抗日救国会的常委、中共地下党员冯基平和另一名执委夏尚志。李兆麟听两位共产党员讲当前抗日救国的大政方针，心中开阔起来，满怀激情地握住两位共产党员的手说：“从今往后，我是一个心眼跟你们走了。”“不，李兆麟，是要跟党走。”冯基平笑着纠正李兆麟。不久，由冯、夏二人介绍，李兆麟加入了抗日救国会。为便于开展工作，李兆麟又考进了私立华北大学，成为一名大学生。他以这个身份做掩护，在北平开展了各种救亡活动：下门头沟煤矿，向工人讲抗日救国的道理；机智地穿越北平城，为党组织送传单；组织学生上街游行，宣传抗日主张。
１９３１年１２月初，中共北平地下党组织派李兆麟等人以抗日救国会的名义，回东北辽阳一带组织抗日义勇军，开展武装斗争。１９３２年春节过后，冯基平、李兆麟和杨寿天到达辽阳县铧子乡小堡一带。不久，孙志远、夏尚志等人也先后到达。在中共辽阳县委书记冯基平的主持下，召开了研究如何抓武装的会议，决定由李兆麟利用同乡和老同学等关系进行串连，招兵买马，打出抗日旗帜。李兆麟骑着家里的一匹白马，不分昼夜，冒着生命危险，往来于辽阳地区的反日山林队和义勇军之间。由于历史原因，这些山林队和义勇军之间关系复杂，结下私仇，弄得不好，他可能会被其中一方误解而被杀头。李兆麟为了抗日大业，早把个人安危置之度外，在“为了祖宗国家，不杀鬼子不回家”的口号下，把分散在辽阳、奉天、本溪一带的“长江队”、“燕子队”、“平日队”、“天地荣”等山林队１０００多人团结起来，终于在同年３月中旬在辽阳三家子正式成立了东北抗日义勇军第二十四路军，由苏景阳任司令。李兆麟为联络员，实际上代行指挥职责。
义勇军成立后，首战攻打铧子沟矿井告捷，活捉了前日本关东军工兵司令、时任八大矿矿长的久留井；二战韭菜台，以优势兵力围歼了投降日军的土匪队“洪盛团”，消灭３００余人；三战击溃了盘踞在辽阳一带的亲日地主武装“南大会乡团”。义勇军第二十四路军名声大振。在李兆麟的联络下，三路大军联合攻打奉天，近万名义勇军前仆后继，冒着弹雨，攻入南关和飞机场，炸毁了飞机库，烧毁了飞机七架，沉重地打击了日本侵略者，坚定了辽中人民的抗战信心。
李兆麟在组织义勇军的同时，还和其他同志在小堡一带建立了“反帝大同盟”、“穷人会”、“少年先锋队”、“妇女会”等群众性的进步抗日组织。李兆麟的家成了革命的堡垒和联络点，他的亲属都行动起来支持革命活动。他把家中的８０多元钱捐出来作活动经费，派人到奉天买回两台油印机。
经过血与火的斗争考验，李兆麟于１９３２年５月加入共产主义青年团，不久转为中共党员，先后在本溪煤矿搞工人运动和在奉天从事兵运工作。
１９３３年８月，李兆麟到达哈尔滨。日本人占领哈尔滨后，把它变成了残害爱国抗日志士、统治北满的中心。中共满洲省委也在这座城市中指挥东北的抗日战争。李兆麟和党组织接上关系后，即被指定为满洲省委军委负责人。他先后到北满的巴彦、海伦巡视工作，传达中共中央“一二六”指示信（即《给满洲各级党部及全体党员的信》）的精神，贯彻省委决议，帮助当地群众组织和建立抗日游击队。９月，满洲省委又派李兆麟到珠河（今尚志县）巡视工作。向正准备建立抗日游击队的赵尚志、李启东二人传达了中央指示信后，李兆麟又同赵尚志、李启东等人共同研究制定了建立游击队的计划。１９３３年１０月１０日，珠河反日游击队正式成立，赵尚志任队长。
１９３４年，东北的抗日斗争暂时转入了低潮，以义勇军为主体的抗战队伍，在日本侵略军的军事、政治的双重打击下，大都失败了。年初，中共满洲省委遭到破坏。李兆麟脱险后，到珠河赵尚志领导的游击队，化名张寿篯，任副队长。经过半年斗争锻炼的珠河游击队，已从１３人发展壮大为７０多人，编成了五个分队，活动地区扩大至中东铁路道南三股流和铁道北秋皮囤、黑汉宫等地，成为当地反抗日本侵略军的一面旗帜。失败了的各路义勇军和各自为政、占山为王的山林队，都愿意向珠河游击队靠拢。在赵尚志指导下，李兆麟联络各抗日武装，促成了各路义勇军、山林队首领代表会议，建立了反日联合军司令部，共有５００多人枪。
５月中旬，赵尚志和李兆麟率联合军突然出现在宾州城下，干净利落地歼灭了几股伪乡政权的武装，迅速将宾州城团团围住。宾州城的日伪军紧闭城门，三日不敢出城作战，连续向哈尔滨发电求援。第四日晨，敌伪从哈尔滨派来四架飞机，近千人的增援部队。联合军在赵尚志和李兆麟的指挥下，与日伪军展开激烈战斗，使用木制的大炮攻城，并用机枪打下敌机一架，打死打伤日伪军８０余名，顺利返回营地。当时，在当地群众中流传着“木炮打宾州，威震敌胆”的抗日故事。
１９３４年６月２９日，赵尚志和李兆麟以珠河反日游击队为基础，吸收部分山林队和义勇军，正式成立东北反日游击队哈东支队，赵尚志任司令，李兆麟代理政治委员兼政治部主任。支队下辖三个总队（大队）。赵尚志率一总队活动于宾县、三岔河一带；李兆麟率二总队活动于珠河铁道南游击区；韩光率第三总队在珠河铁道北打游击。他们时分时合，灵活机动，勇歼顽敌。
９月中旬的一天夜晚，哈尔滨东南的重镇五常堡，夜幕笼罩，万籁俱寂。突然，镇西、镇南同时火光冲天，接着传来一阵阵炒豆般的枪声。尚在睡梦中的日伪军惊慌失措，急忙提枪登上围墙和炮台作垂死挣扎。赵尚志和李兆麟率领哈东支队３００余人，在当地青年义勇军的配合下，与敌展开激战。两小时后，哈东支队由西边和南边两路破城，日伪军除一小部分由东面借夜幕的掩护逃向哈尔滨外，其余４００多人被歼灭。哈东支队缴获大批枪支弹药和被服、布匹、胶鞋等军用物资。天将拂晓时，部队迅速撤出了五常堡，返回珠河根据地。这一仗，是哈东支队成立后取得的最大的一次胜利，威名远扬。
哈东支队根据满洲省委的指示，于１９３５年１月２８日在珠河县道南半截河正式改编为东北人民革命军第三军，军长赵尚志，李兆麟任二团政治部主任。此后，李兆麟和团长李熙山（许亨植）带领二团，活动于珠河北第五区，延寿西部第二、三区和宾县、阿城一带。２月初，二团与三团联合作战，于孟家店打死伪军孙团的参谋长。随后，二团乘胜进攻延寿县老三区，在道北义勇军的配合下，夺占敌伪重要据点小黄烧锅。３月，李兆麟调到一团任政治部主任后，率部队在方正县大罗密地区三家屯子活动时，主动与东北人民革命军第四军军长李延禄率领的部队会师，共同对敌作战。李兆麟等人在四军看到了中共中央的《八一宣言》，与李延禄等领导人一起学习领会党的抗日民族统一战线的政策，酝酿建立联军，协同作战，一致对敌，并决定由四军和三军一团部队联合作战，进攻南刁翎的日伪据点。９月１６日，战斗按计划打响，李兆麟率三军一团由西门打入，四军二团主攻东门。经三个多小时的激战，日伪保安队１００余人反正，伪警备营营长率部投降，其余敌人被歼。当晚，情报组报告敌人由林口出援，老窝空虚。李兆麟和李延禄商定，率军急行军１２０里，夜袭林口，守城敌军弃城逃走，缴敌战马数百匹。
１９３６年１月２６日，在汤原县吉兴沟召开了北满反日联合军军政联席扩大会议，李兆麟被推选为执行主席。会议作出了设立“东北抗日联军总司令部”（后改称北满抗日联军总司令部）的决定，赵尚志被推选为总司令，李兆麟为总政治部主任。会后，各军分开活动，李兆麟到六军担任代理政治部主任，并兼任第三、第六军后方留守处主任，担负起领导创建汤旺河后方根据地的任务。
为了把具有战略意义的小兴安岭汤旺河一带的后方根据地牢牢地控制在抗联手中，并扩大抗日游击区，根据上级指示，李兆麟决定组织一次出击，消灭盘踞在岔巴旗、南岔、老钱柜一带的伪森林警察大队。
以汉奸于四炮为首的森林警察大队，是伊春山沟里最大的一股伪军，有１００多人枪，大队部驻在老钱柜，直接受日寇指挥。这股伪军与日军狼狈为奸，直接威胁着抗联汤旺河后方根据地。
这年３月１９日下午，雪霁天晴，极目远眺，万里河山如粉妆玉砌一般。李兆麟身穿灰蓝色布军装，打着绑腿，肩挎十响驳壳枪，头戴布琼尼元帅式军帽，同第六军二团团长戴洪滨率领游击连和青年义勇军１５０多名战士，迎着凛冽的寒风，踏着积雪，由浩良河东面出发，沿着汤旺河快速前进。当走到岔巴旗时，夜幕已经降临。李兆麟带部队摸到一个木质岗楼跟前，从窗户往里看见有两个伪警正在炕上对酌，身旁放着两支枪。战士们箭步破门而入，用枪顶着两个警察的胸膛，喝问道：“东岸有多少人？谁是头儿？有几个哨兵？”伪警察吓得不知说什么好，只是一个劲地说：“别开枪，别开枪，我说……”
查明敌情后，由两名伪警察带路，分别摸进了东面的大院套，李兆麟命令战士分两路直奔东西两个院落。李兆麟和几名战士冲进了东院内，正躺着抽大烟的敌头目听到有动静，翻身去取挂在墙上的枪。李兆麟“砰”地开了一枪，随即用枪逼住他们说：“不许动！你们的枪要拿出来打日本。”这时，室外的战士也把枪从窗户伸进来逼住敌人。与此同时，西院的敌人也顺利地解决了。伪中队长黄毛、丁山、宫四炮、小队长张保安及全部伪警察，都当了俘虏。李兆麟命令留下少数兵力守住岔巴旗，封锁山口，切断敌人的联系，其余战士乘上十几张爬犁。李兆麟让先头部队换上敌人的服装，乘着爬犁，押着伪中队长走在前面，骗过敌人，到了南岔，没费多大劲，就缴了营地警察的枪。这一夜消灭敌人三个据点。
翌日凌晨，李兆麟又率战士们顶着刺骨的北风，直奔老钱柜。在敌伪中队长宋喜彬的配合下，智取了警卫和柜房的枪，直插老钱柜后边十几里路的日军森山指导官的指挥部，干净利落地歼灭了森山大尉以下七名日军指导官。至此，历时两天两夜，行程８００里，歼灭敌伪森林大队的任务圆满完成了。除了于四炮（大队长）因外出未归外，其余全部生俘，共缴获步枪１００多支、子弹３０余万发、两万斤米面，烧了敌人的大本营。从此，这一带变成了第三军和第六军的根据地，在沟里建立了密营、被服厂、修械所、电信学校，还成立了联军学校，校长赵尚志，李兆麟任教育长。学校连续办了三期，为北满抗联各军训练和培养了１００余名军政干部。
１９３７年，根据中共北满临时省委的决定，将东北抗日联军总司令部改为北满抗日联军总司令部，总司令仍是赵尚志，李兆麟留任总政治部主任。