冉少波，１９０３年１月１４日生于贵州省印江县何家乡冉家坡一个农民的家庭。他从小受尽“地头蛇”等恶势力的欺压、侮辱，发誓长大后一定要报仇雪恨。
１９２５年，冉少波到湘军贺耀祖部当兵。这时，广州国民政府在中国共产党人的推动下，正积极准备北伐。当北伐军进攻岳阳时，贺耀祖部正式编为国民革命军独立第２师。冉少波随部队加入国民革命的行列，经湘阴、平江，入赣北作战。
１９２７年３月，冉少波所在的独立第２师扩编为国民革命军第４０军，湘军叶开鑫部改编为国民革命军第４４军。第４０军和第４４军联合成立两军教导队，训练部队骨干。冉少波入教导队受训。不久，两军又联合举办军官讲习所，冉少波作为优秀分子，又从教导队选入讲习所学习。后来，蒋介石命令两军军官讲习所并入南京陆军军官学校第六期，编为步兵第四大队。冉少波进入该校继续受训。
冉少波从军官学校毕业后，分配到黔军第２５军第５师车鸣冀部的教导队担任军事教官。在教学中，冉少波成为教官中的佼佼者。他身体力行，经常给学员做示范，表演绝技。特别是他那见人不见刀的刀技，给人留下深刻的印象。
１９３２年冬，贵州军阀尤国才、王家烈之间爆发战争。车鸣冀出师加入尤国才部序列，向贵阳王家烈部进攻，战火蔓延至黔境。冉少波看到自己培养的学生为军阀争斗而卖命，痛心疾首。恰在这时，他结识了中共地下党员熊仲卿。在党组织的影响下，冉少波毅然决定到湖南西北部及湖北、贵州两省边境的武陵山区拉武装，建立一支“打富济贫”的队伍。
１９３３年春，冉少波和熊仲卿一同来到贵州东北部乌江流域的德江、印江、沿河三县交界地区。他们利用驻印江军阀吴湘涛的名义，在袁家湾组建了独立营，冉少波担任营长。仅三个月的时间，独立营就发展到４００多人枪。
当时，黔东一带称做“神兵”的农民自发组织的武装正在兴起。“神兵”的矛头直指当地国民党反动政权。同时，在其内部，立“神坛”，练“神兵”，制定“三灭”、“四禁”等教规，具有浓厚的封建迷信色彩。与此同时，冉少波领导的独立营也提出“一打财主二打官，不与穷人啥相干”的口号。双方的矛头所向是一致的。
独立营提出的口号，却遭到副营长、冉少波的族叔冉泽云的公开反对，并扬言：“如果使用这个口号，就有我无他！”冉少波对族叔没作丝毫的退让，仍坚持自己的主张。为维护组织的安全与发展，他大义灭亲，将冉泽云除掉，并亲自写布告公布其罪状，得到了官兵的一致拥护和支持。
为了扩大影响，冉少波率领独立营到沿河枫香溪（现属德江县）一带活动。枫香溪附近有个叫龙塘的村子，住着大地主覃礼坤。他倚仗其担任贵州省财粮厅厅长的叔父覃茂松的权势，勾结当地恶势力，横行乡里，鱼肉百姓，早为群众深恶痛绝。冉少波决定将覃礼坤列为第一个打击对象。
一天晚上，冉少波带领一个连奔袭龙塘，包围覃礼坤家，缴获步枪三支，捉住了覃礼坤之父，罚款５００光洋。这次行动，虽未能捉住恶棍覃礼坤，但在群众中产生了很大影响，群众踊跃参加独立营。就连枫香溪的小商贩，也筹款支持独立营，帮助解决给养。冉少波便利用这一时机扩充队伍，并亲自担任教官，抓紧训练部队。
独立营的一系列活动，震惊了反动当局。印江县政府下令通缉冉少波，并策划“围剿”独立营。冉少波得知这一消息后，决定先发制人。他率领８４名精壮士兵，奔袭印江县城，趁夜暗包围了县政府。冉少波带随身护卫闯入院内，以开会名义，逼令县长召集警察局、保警队等头目集中，将其一网打尽，缴获了一批枪支。
大地主覃礼坤听说冉少波袭击了县城，气急败坏地纠集沿河谯家、沙坎、上坝和印江、德江等地民团８００多人，向独立营扑来。独立营驻袁家湾的第二连遭到突然袭击，全连战士拼死抵抗，大部阵亡。连长冉锡珍受伤被俘，惨遭杀害。敌人突袭彭家湾时，独立营营部被包围。在强敌进攻之下，冉少波率部突围，退守冉家坡，凭借有利地势，抗击敌人。当敌军逼近冉家坡时，独立营三连连长丁国安反水投敌。独立营失去了阻击敌人的良机和条件。为避免群众的伤亡，保存力量，冉少波当机立断，率余部撤离冉家坡，分散隐蔽，等待时机，东山再起。
在艰难曲折的斗争实践中，冉少波不断地在思索，特别是经过地下党员熊仲卿的启发诱导，使他明白了独立营受挫的根由，懂得了要革命，要胜利，只有找共产党，当红军。
１９３３年１０月，冉少波离乡启程，由重庆坐船到江西九江，想寻机进入苏区当红军。可是，因途中受阻，冉少波只好暂时委身国民党第２５军３师蒋丕绪部任营长，化名张羽峰。
这时，在黔北，国民党黔军蒋丕绪与王家烈发生内讧，战火频仍，广大人民处于水深火热之中。同时这一带“神兵”斗争也十分活跃。德江“神兵”攻占县城，拥立“神兵”县长，给群众极大的鼓舞。印江、沿河、务川、思南等县“神兵”也酝酿着更大的斗争。冉少波从声势浩大的“神兵”斗争中看到了人民群众的力量，毅然脱离蒋丕绪部，秘密奔赴德江稳坪一带活动。
稳坪是德江“神兵”活动的中心。当时，“神兵”进攻思南县城，途中受阻。在敌重兵“围剿”下，“神兵”组织渐形瓦解，“神兵”纷纷藏匿深山，处境极端困难。冉少波以自己的真实姓名，首先与“神坛佛主”张羽跃，“神将”张金殿、张羽让接上了关系。经过联络，“神将”们表示愿意接受他的领导。冉少波深入了解“神兵”斗争情况后，感触到了“神兵”们对前途的忧虑，听到了“神兵”要求打倒腐败官府的强烈呼声。他向“神兵”反复宣传“要革命，要胜利，只有找共产党，当红军”的道理，告诉大家：“有共产党和红军为我们撑腰，什么都不怕。”“神兵”们受到了鼓舞，看到了希望。从此，稳坪的“神兵”斗争以隐蔽的形式，又逐渐开展起来。
１９３４年５月中旬，贺龙、夏曦、关向应等率领红三军从四川彭水来到黔东，经后坪（现属沿河）进入务川和德江县边境。消息传来，冉少波立即派人赴务川与红军接头。因红三军转移沿河，未能接上。此后，冉少波将“神兵”活动由隐蔽转为公开，集中稳坪、坨底、板桶、木叶等地“神兵”，以枫香坝张氏祠堂为根据地，抓紧训练，以策应红军在黔东地区的军事行动。
“神兵”的公开活动，使地方反动势力十分惊慌。他们趁春耕大忙时节，大部分“神兵”返家种田，仅剩下４０多人的时候，迫不及待地向黔军何应林部告密。何应林先派特务混入枫香坝张氏祠堂，将“神兵”的土铁炮引线拔掉，灌进水，然后以一个连的兵力，突然包围了祠堂。面对突来之敌，冉少波沉着镇定，指挥“神兵”奋力抗击。他让“神将”张金殿、张羽让等隐蔽在祠堂厢房楼上，自己冒着敌人的枪弹，穿过正殿，进入上殿，选好了突围地点。随后，组织“神兵”陆续冲出了祠堂。
枫香坝突围后，冉少波得知红三军进入印江县境，立即带领五名身强力壮、武艺高强的“神兵”到印江县，在刀坝找到了红三军。冉少波向贺龙详细汇报了黔东“神兵”的斗争情况，提出了加入红军，请红军改造“神兵”的建议。贺龙军长高兴地说：“神兵神将来了，好啊，欢迎你们！”
１９３４年６月，各地“神兵”汇集枫香溪，接受红三军的整编，成立了以“神兵”为主体的黔东纵队，冉少波任司令员，张金殿任副司令员，熊仲卿任政委。纵队直属红三军军部领导。从此，这支以“神兵”形式出现的农民武装，终于走上了革命道路。长期在黑暗中冲杀的冉少波，由“神兵”首领成为一名红军指挥员。
冉少波参加红军后，为创建黔东革命根据地倾注了全部心血。他首先想到的是提高部队的政治、军事素质，建立了教导队，培训干部，并亲自担任军事教官。他组织干部和士兵学习共产党的政策，认识革命的目的；按红军的纪律和规章，严格训练部队，坚决纠正不良习气，逐步提高了部队的战斗力。
黔东纵队每到一地，冉少波便带领战士发动群众，组织农民协会、游击队、自卫队，建立区、乡苏维埃政府，开展打土豪、分田地的斗争。在１９３４年７月召开的黔东特区第一次工农兵苏维埃代表大会上，他被选为特区革命委员会委员。
１９３４年８月，冉少波奉命率黔东纵队配合红九师，袭击黔军一个团。他与红九师师长钟炳然认真分析敌情，研究制定了诱敌深入、突然袭击的作战方案。８月２２日，红九师一部在木黄与敌军一个团接火。红军佯装“一触即溃”，退到松桃岩柯坝。随后，红九师与黔东纵队兵分两路，一路复出地茶坝，一路直奔锁口山，对木黄敌军实施突然袭击，毙敌７０余人，俘敌８０余人，缴枪１５０多支。
接着，冉少波又接受了进攻四川酉阳南腰界反动民团的任务。南腰界反动民团盘踞在南腰界大坝场冉家祠堂，是敌人楔在苏区内的一颗毒钉。拔掉这颗钉子，是一场艰难的攻坚战。冉少波认真分析了敌情，决定采取“文武并举”的攻坚方案。他指挥黔东纵队把祠堂围个水泄不通，随即向敌人发起政治攻势。经过喊话宣传，被胁迫进祠堂的群众陆续投向红军。可是反动民团凭借有坚固的石头围墙和四周有水田的有利地形，负隅顽抗。冉少波挑选出９６名精壮士兵，在炮火的掩护下，利用夜暗冲入敌巢，全歼顽敌。冉家祠堂被红军拿下的消息传遍酉阳，群众欢呼雀跃，敌人闻风丧胆。
黔东纵队夺取冉家祠堂后，奉命回师谯家铺。这时，国民党军李成章部在反动民团的配合下，气势汹汹地向谯家铺扑来。冉少波果断地下达命令：纵队全部撤离，待机歼敌。敌人占领了谯家铺，弹冠相庆，不可一世。冉少波乘敌骄横麻痹之际，夜袭敌营。睡梦中的敌军乱成一团。纵队乘势发起攻击，大败敌军，收复了谯家铺，并活捉了大恶霸覃礼坤。冉少波根据群众的强烈要求，将覃礼坤公判处决。群众拍手称快，纵队声威大震。
１９３４年９月，李成章又以五个团的兵力，在木黄一线寻找红军作战。贺龙根据敌人的动向，命令冉少波率黔东纵队向刀坝发起佯攻，然后回师木黄附近。红七师则做出向冷水推进之势，随后“败退”夕阳坝埋伏。红九师主力转移到火烧桥待命。李成章摆起与红军决战的架势，以一部占领木黄东侧的老寨，堵住红军往梵净山的退路；以另一部向木黄两侧的地茶推进，争夺岩口坪制高点，企图对红军主力形成夹击之势。
贺龙乘敌人部署尚未就绪，命令黔东纵队立即接替红七师，坚守阵地，拖住向地茶推进的敌人。冉少波坚决执行命令，指挥纵队全体将士以主力红军的面目出现，向敌人发起猛攻，紧紧咬住敌人不放。李成章以为红军主力被包围，命令各路人马向夕阳坝增援。战斗异常激烈。这时，红军乘机向敌迂回。红七师抢涉木黄河，越过岩口坪，占领将军山高地。红九师则从火烧桥驰援抢占观音山。进至地茶的敌人发现被红军包围，便猛扑将军山，企图夺回制高点，但为时已晚。红七、九师以逸待劳，向敌人发起反冲击。黔东纵队也猛烈地突击敌人，打得敌人溃不成军，官兵不能相顾，各自夺路逃命。战后，红七、九师的指战员说：黔东纵队打得真不赖，像红军主力的样子。红三军首长也称赞冉少波打仗顾全局，配合主动，很有独立指挥的能力。
１９３４年１０月初，湘鄂川黔革命军事委员会决定，将黔东纵队与各独立团和部分游击队合编为黔东独立师，任命贺炳炎为师长，冉少波为副师长，熊仲卿为政委。黔东独立师的组建，标志着黔东纵队向正规红军迈进了一大步。
１０月２４日，红二、六军团胜利会师，红三军恢复红二军团番号，黔东独立师编入红二军团。同时，成立中共黔东特委，重新组建独立师，坚持黔东苏区斗争。冉少波被调到红二军团司令部任参谋。他不计较职务高低，坚决服从命令，积极协助任弼时、贺龙工作。他经常到部队、到战斗的第一线调查研究，为军团首长出谋献策，在红二、六军团胜利东进和发起湘西攻势的战斗中，做出了积极的贡献。
红二、六军团在军事上的胜利，有力地牵制了敌人，配合了中央红军在湘黔地区的行动。同时，开辟了永顺、大庸、龙山、桑植为中心的湘鄂川黔革命根据地。１９３４年１２月，中共湘鄂川黔省委、省军区在永顺塔卧创办了中国工农红军学校第四分校。冉少波被调入该校担任军事教官。他接到命令后，愉快地走上了新的工作岗位。
在红校期间，冉少波身教重于言教，手把手地给学员们传授军事知识，尽心尽力培养人才。他特别注意加强自身的学习，努力提高政治思想水平，为学员们做出了榜样。然而，就在他将自己与革命事业融为一体，党和军队最需要他的时候，他却被“左”倾冒险主义路线的执行者以莫须有的罪名于１９３５年４月在湖南永顺塔卧秘密杀害，年仅３２岁。
由于历史的原因，半个世纪以来，冉少波一直没有得到公正的评价。但人们并没有忘记他的功绩，全国人大常委会副委员长廖汉生，以及和冉少波一起战斗过的红军战友，多次发表文章和讲话，证实冉少波的战斗功绩和被错杀的历史事实，要求予以平反。１９８７年７月２４日，中共贵州省委做出决定，给冉少波平反昭雪，恢复政治名誉。