张金楼，１９０８年６月出生于湖南省平江县龙门厂。因家贫，张金楼小时只读过几个月的书，就拖着单薄的身子，跟挑皮匠担的父亲外出谋生。稍长，又给人家当了四年雇工。１９２６年湖南农民运动开展起来后，他全身心地投入农民协会的工作，被推为本乡农民协会副会长。１９２６年冬，张金楼加入中国共产党。翌年３月，他被党组织送入平江县农运讲习所学习。结业后，又分配回到龙门厂，协助区农民协会工作。
长沙发生“马日事变”后，张金楼在龙门厂一带顶住反革命势力的反扑，坚持斗争。秋收暴动时，他为了响应中国工农革命军第一军第一师由江西修水向平江进军，与中共平江第六区区委书记张勉之一道，在龙门厂组织群众举行暴动，配合起义部队，一举攻下龙门厂。他除将没收的土豪劣绅财物充作起义部队经费外，还组建了农民自卫军，并将他们输送到起义部队，跟随毛泽东上了井冈山。
在秋收起义以后一段时间，张金楼因受到国民党当局的悬赏通缉，被迫转移到木瓜等地。他在这里秘密组织了４０多人的梭镖队，于１０月间举行了“木瓜暴动”，恢复农民协会，夺取“挨户团”枪支，正式组建了一支游击队。他任党代表，由方国民任队长，在当地积极开展起武装斗争。
当时，开展武装斗争的一句口号是：用赤色恐怖对付白色恐怖。但究竟怎样才算赤色恐怖，对此理解却不尽相同。按照游击队队长方国民的做法，就是在打土豪和没收财物之后，要放一把火，把土豪的房屋烧个一干二净，才叫“赤色恐怖”。张金楼却不以为然，他说：“人活着就要有地方住，房子应留下，将来好分给穷人。”但他没能说服固执的方国民，只好将此事向区委书记张勉之汇报。张勉之说这口号是上面传下来的，还得请示县委。平江起义爆发后，张金楼又将此事向彭德怀军长作了反映，然后将彭德怀关于必须纠正这种错误做法的指示转告方国民，并部署加强游击队的整训工作。他专门从红五军请来教官，帮助游击队进行政治军事训练，使游击队成为能遵守纪律、执行政策、联系群众、作风顽强的战斗队伍，其中有不少青年后来参加了红军，有的经过战火的洗礼成为红军的将领。
１９２９年８月，张金楼调中共湘鄂赣边特委工作。９月，又被派往修水任特委巡视员。他先着手恢复党的组织，清除不良分子，吸收优秀分子入党，并组织学习党的有关理论，提高党员的思想素质。他还把主要精力放在克服修水县委领导存在的“左”倾错误上。他敏锐地察觉到，这个问题不解决好，势必严重地危害军政、军民关系。
此前，红五军为筹款和保护城市小商人的利益，曾出面制止修水有些干部群众乱烧乱杀乱罚的“左”倾行为，但有的地方领导和暴动群众不听劝告，甚至发生强烈的对抗。张金楼针对问题的症结，从密切红军和地方群众关系的大局出发，主动邀集修水县委负责人和红五军纵队负责人一起座谈，进行耐心的调解。他用平江游击队队长方国民因乱烧乱杀引起当地群众严重不满而自我孤立的事例告诫县委负责人，指出红五军制止这种做法的意见是对的。同时他又诚恳地表明，红军不应同地方干部、群众发生对抗，有问题要通过地方党组织的同志去做好思想工作。他言辞恳切，态度平和，使当事双方深受感动，大家各自作了自我批评，紧紧地握住双手，前嫌顿时烟消云散。
１９３１年９月，张金楼当选为湘鄂赣省苏维埃政府执行委员后，曾协助粮食部部长张怀一抓农业生产。为了解决农民缺少耕牛的困难，他深入平江黄金洞、龙门等地建起了十多个耕牛站，从江西、湖北等地购进１００多头耕牛，调剂给贫苦农民使用，促进了农业生产的发展。对于一些水利工程，他决定由苏维埃政府补助一部分材料费用，并说服群众打破对风水的迷信，在过去的一些“禁区”开渠挖塘。他还规定谁垦谁有，用五年内免交厘金税的办法，鼓励群众开垦荒地。他自己以身作则，带领省苏维埃粮食部的工作人员，在黄金洞槲板坡开荒种地，仅红薯就收了两万多斤，在省苏维埃机关树立了“边办公，边生产，自力更生，减轻群众负担”的榜样。
１９３２年春，张金楼当选为新成立的湘鄂赣省雇农总工会主任委员。他上任做的第一件事，就是根据广大雇农的意见，并取得省委和省苏维埃政府的同意，纠正了在土地革命中对雇农与失业工人不分配土地的错误做法，给雇农与失业工人补分了土地。其次，是在湘鄂赣省雇农工会常委扩大会议上决定将雇农工会改名为农业工人工会，并在湘鄂赣省总工会召开的工人代表大会上，提议将赤色工会改名为全省职工联合会。这样，把农业工人工会纳入职工联合会的范围，加强了党对农业工人工作的领导。
１９３２年９月，张金楼在湘鄂赣省第二次党代表大会上被选为省委委员。１９３３年１０月，当选为省苏维埃政府第三届执行委员会副主席，并被推选出席中华苏维埃第二次全国代表大会。随着时间的推移，他对“肃反”扩大化所造成的危害有了深刻的认识。１９３４年１月，他随代表团从万载小源到达瑞金。就在这次大会上，他以坦荡的胸襟，对湘鄂赣苏区两年来的工作情况，如实全面地向中央作了汇报，批评了湘鄂赣临时省委以所谓“反平浏地域观念”的口号，排斥打击一批平浏地区有丰富斗争经验的干部的错误做法，请求中央派员到湘鄂赣苏区巡视工作，帮助解决这些问题。同时，他勇于承担责任，实事求是地检查自己对这些错误抵制不力，在“肃反”问题上同样犯了“左”倾扩大化的错误。
１９３４年４月，张金楼到中央根据地党校学习。１０月，他随中央纵队参加了艰苦卓绝的长征。１２月中旬，在湖南通道县的一次战斗中英勇牺牲，时年２６岁。