在全国抗战的鼓舞和推动下，中国东北地区各族人民的抗日斗争也出现了新的局面。党组织和东北抗日联军号召人民行动起来，为光复东北国土而奋斗。各族青年踊跃参加东北抗联。不少伪军、伪警察也携械反正，加入抗联。东北抗联部队在白山黑水之间展开游击战争，有力地打击日、伪的统治，牵制大量日军，积极地配合了全国的抗战。
九一八事变后，东北地区成为日本侵略全中国的后方基地和反对苏联的前哨阵地。为了确保对这个地区的占领，日本制定“治安肃正计划”，并向中国东北大量增派兵力。到１９３７年７月初，关东军的总兵力增至１０余万人；伪军也扩充到约１０万人。卢沟桥事变后，日军参谋部从关东军抽调四个旅团和两个支队到华北，参加关内作战，使在东北地区的兵力有所减少。但到１９３８年下半年，又将关东军增加到七个师团，到１９３９年底进一步增加到九个师团。日、伪军加紧对抗联部队的军事“讨伐”和经济封锁。同时，对居民实行归屯并村，强化法西斯统治，切断人民群众同抗联的联系，断绝抗联的兵源和供给，使抗联的处境越来越恶化。在异常艰苦的条件下，抗联各部队团结各族人民，坚持游击战争，继续同日、伪军进行了顽强的斗争。
由杨靖宇、魏拯民等率领的抗联第一路军所属第一、第二军，在南满长白山地区积极开展抗日游击战争。１９３７年７月以后，第一路军总司令杨靖宇率第一军一部，由辽宁桓仁西进，转战于宽甸县境和本溪地区，多次袭击日军守备军。中共南满省委书记、第一路军第二军政治委员魏拯民率领第二军，也在吉林额穆、辉南、濛江、抚松、桦甸等地开展游击战争，打击敌人。１９３８年初，杨靖宇又率部由桓仁进入辑安，活动于老岭山区。３月，袭击日军正修筑中的通（化）辑（安）铁路老岭隧道工程。４月，第二军攻占长白县六道沟镇。５月中旬至６月初，中共南满省委和第一路军总部在老岭召开会议，决定第一军西征热河，第二军留在长白山坚持斗争。会议决定魏拯民兼任第一路军副总司令。７月中旬召开的第二次老岭会议，决定放弃西征计划，并决定改变部队编制。随后，第一路军将部队统一编为三个方面军和一个警卫旅，实行分区作战。８月，杨靖宇指挥警卫旅和第一方面军一部在辑安县长岗击溃伪军索景清旅一个团。１９３８年冬，第一路军各部继续转战，不断给日、伪军以打击。
１９３７年秋，战斗在乌苏里江左岸和完达山一带的东北抗联先后取得袭击宝清县凉水泉子伪警察所、桦川县孟家岗伏击战、奇袭聚宝山警察署、五道岗伏击战等战斗的胜利。１０月，东北抗日联军第二路军筹委会成立，周保中任第二路军总指挥，赵尚志任副总指挥（１９４０年２月任），崔石泉任参谋长，下辖第四、第五、第七、第八、第十共五个军。年底，第二路军开始艰苦的反“讨伐”作战。根据中共吉东省委的决定，１９３８年７月，第二路军第四、第五军主力开始西征，试图与活动在南满的第一路军取得联系，进而沟通与关内的联系。他们沿途与尾追的敌人进行英勇战斗。第四军军长李延平和副军长王光宇相继壮烈牺牲。第五军妇女团冷云等八名女战士，为掩护部队突围，与敌激战至粮尽弹绝，最后跳入牡丹江支流乌斯浑河的激流中，全部壮烈牺牲。留在宝清、饶河、富锦等地坚持斗争的部队，也遭到很大损失。
从１９３７年下半年到１９３８年，由李兆麟、冯仲云等领导的，活动在松花江下游两岸的抗联第三、第六、第九、第十一军，按照中共北满临时省委的决定，以一部坚持原地斗争，主力则分三批远征海伦，开辟新的游击区。远征部队历尽千辛万苦，克服重重困难，终于胜利完成任务。在此过程中，李兆麟和他的战友们写下了著名诗篇《露营之歌》。诗中写道：“铁岭绝岩，林木丛生，暴雨狂风，荒原水畔战马鸣。围火齐团结，普照满天红。同志们！锐志哪怕松江晚浪生。起来呀！果敢冲锋，逐日寇，复东北，天破晓，光华万丈涌……”
东北抗日联军的英勇斗争，受到中共中央的高度评价。１９３８年１１月５日，党的六届六中全会发出给杨靖宇为代表的东北抗日联军和东北同胞的致敬电，称颂东北抗联是“在冰天雪地与敌周旋七年多的不怕困苦艰难奋斗之模范”。
１９３９年，东北抗日游击战争进入极端困难的阶段。这时，由于日军实行大规模的疯狂的军事“讨伐”和严密的经济封锁，使抗日联军的活动地区日益缩小，部队大部被迫转移到深山密林。战斗在冰天雪地之中，又因缺少粮食，常以树皮野果充饥，备受饥寒交迫之苦。然而，他们在中共中央致敬电的鼓舞下，仍然不屈不挠地坚持斗争。１９３９年３月１１日，杨靖宇率领第一路军警卫旅等部，袭击吉林桦甸县木箕河林场，全歼伪森林警察队，缴获步枪近百支，机枪３挺。４月，两次袭击敦化县大蒲柴河日军野战仓库，解除伪警察２００多人的武装。８月，第一路军副总司令魏拯民率第三方面军，采取“攻城打援”战术，用一部兵力攻开安图城，摧毁伪警察署；以另一部兵力设伏于安图北大沙河，全歼日援军１００余人，缴获步枪近百支，机枪两挺，毁汽车七辆。１０月，中共南满省委和第一路军决定将部队化整为零，分散活动。杨靖宇率４００余人转战数月，到１９４０年２月，陷入日军“讨伐”队重围，最后只身一人。敌人劝他投降，他用猛烈的枪弹回答敌人。２月２３日，杨靖宇在濛江西南保安村三道崴子壮烈殉国。残忍的敌人割下杨靖宇的头颅，剖开他的腹部，发现他肠胃里尽是枯草、树皮和棉絮，没有一粒粮食。抗联战士这种不畏困难、威武不屈、战斗到最后一息的英雄气概，使敌人也为之震惊。
１９３９年上半年，抗联第二路军总部和第五军遭到日军６０００余人的轮番“讨伐”。在林口县牡丹江西岸四道河子召开的中共吉东省委扩大会议，决定第二路军总部率直属警卫部队、第五军军部教导团及第一、第二师等部，分别向宝清、密山和穆棱、东宁方向转移。周保中率领第二路军在向东转移过程中，多次给敌人以打击。４月２３日，柴世荣率第五军主力在穆棱泉眼河伏击敌人，歼灭日、伪军３００多人。五六月间，第五军及第二路军总部突出重围，分别到达宁安镜泊湖地区和宝清兰棒山后方基地。
１９３９年４月，东北抗日联军第三路军总指挥部成立，总指挥李兆麟，总政治委员冯仲云（１９４０年５月任）、金策（１９４１年７月任），总参谋长许亨植，下辖第三、第六、第九、第十一军四个军。他们在黑龙江省北部十余个县境内，坚持游击战争，先后开辟朝阳山、阿荣镇、甘南等游击区。在嫩江两岸活动的抗联部队，在半年多的时间内与敌作战４０余次，攻占讷河等城镇，歼敌２５０余人，缴获各种枪５００余支。
但是，由于日、伪军不断加强殖民统治和疯狂“讨伐”，再加上抗联内部缺乏坚强的领导，没有建立巩固的抗日根据地，部队屡遭挫折。到１９４０年，各部队的活动更加困难。１月２４日，中共吉东、北满临时省委代表周保中、冯仲云和赵尚志等在苏联伯力（今哈巴罗夫斯克）举行会议，决定采取逐渐收缩、保存实力的方针，将抗联三路军缩编成支队分散活动。此后，东北抗日联军在极为艰苦的条件下，依靠汉、朝、蒙、回、鄂伦春、达斡尔等各族人民，继续战斗在白山黑水之间。到１９４０年冬，仅剩下不足２０００人。抗联领导人周保中、李兆麟、冯仲云等经与苏联代表谈判，达成协议，将抗联部分部队转移到苏联境内进行休整。此后，抗联领导人继续派小股部队到北满地区和饶河一带，袭扰敌人，坚持斗争。１９４２年２月，东北抗日名将赵尚志在率抗联小分队袭击鹤立（今鹤岗）梧桐河伪警察所时，受伤被俘。他宁死不屈，英勇就义。
东北抗联和东北人民的英勇斗争，打击了日本在中国东北的统治，牵制了大量的日军，有力地配合了全国的抗日战争。
中国共产党领导的敌后抗战，是一场极其广泛的群众性的战争。八路军、新四军等人民抗日武装，在武器缺乏又无外援的情况下，能够长期坚持极端残酷的抗日战争，并使自己日益壮大起来，根本原因就是得到了广大人民群众的大力支持。党领导的抗日武装力量进行过像百团大战那样的大规模的战役，以及采取对敌奇袭、伏击、围歼等作战方式集中歼敌，但主要的是深深扎根于人民群众之中，以分散游击的方式，在广大的地区内进行无数次小的战斗。这样的战斗天天进行，处处发生，使日军陷入人民战争的汪洋大海之中。
敌后抗日游击战争不仅牵制大量日军，有力地配合了正面战场的作战，而且积小胜为大胜，逐步消灭日军的有生力量，并使人民抗日力量在战斗中成长壮大起来。从全国抗战开始到１９４０年，是中国人民抗日力量大发展的时期。中国共产党领导的武装部队由抗战开始时的５万多人发展到５０万人，此外还有大量地方武装和民兵。除陕甘宁边区外，在华北、华中和华南建立了１６块抗日民主根据地。这些根据地（包括游击区）共拥有近１亿人口，成为全国抗战的重心。
