胡仕虞，１８９８年出生于湖南零陵县郑家桥乡平阳庄村（今永州市零陵区邮亭圩镇人）一位贫苦的知识分子家庭。祖父、父亲均以教书为业。胡仕虞７岁时跟随祖父在零陵城内读书，由于刻苦努力，勤奋好学，１９１８年考入衡阳湖南省立第三师范。１９２２年毕业后，回到零陵，被县立新民小学聘为国学教员。
１９２６年，中共零陵县党组织成立后，掀起了如火如荼的工农运动，零陵城局面一新。胡仕虞顿时从迷惘中看到了希望，决心投入到斗争中去。正当革命蓬蓬勃勃之时，驻军王德光团发动“宥日事变”，大肆捕杀共产党人和革命群众，轰轰烈烈的大革命中途夭折。共产党人前仆后继、英勇牺牲的壮举，使胡仕虞坚定了对共产主义的信仰。
１９２７年５月，胡仕虞毅然向党组织递交入党申请书，表达了自己的心愿。同年１０月，加入中国共产党，负责党内文件的保管、拟稿工作。
１９２８年８月开始，国民党零陵县政府当局又大肆搜捕共产党员。中共零陵县党组织负责人陈秉国被捕后，经不住敌人的严刑拷打，将全县的共产党员名单全部招供了出来，导致全县的１６名共产党员被捕，其中被杀害的有５人，有５人被判处有期徒刑，还有６人被迫外逃。零陵县党组织再次受到灭顶之灾。
１９２８年８月１２日下午，胡仕虞被捕入狱，囚禁在国民党县党部的监狱里。在狱中，敌人深知胡仕虞掌握大量机要情况，于是威诱并用继而施以拷打。岂知敌人用尽酷刑，胡仕虞却下定决心，宁死也不暴露组织，不能出卖同志，做到守口如瓶，表现出共产党人的高尚气节。在狱中，胡仕虞继续宣传革命，将同狱的难友党员组织起来共同学习，共同斗争。为了抵制“绑缯、香烧、踩脚、尖指、股责”等名目繁多的刑罚，胡仕虞组织过一次绝食斗争，反对酷刑、反对非人待遇，取得了胜利。这样，就更加强了同狱难友的团结。
当时，狱中有很多犯人不识字。因此，常有人求胡仕虞写信和写申诉书，他始终无所怨言。胡仕虞在狱中带领共产党人坚持斗争，诲人不倦，感动了原来抱有不同政治见解的人，传播了革命精神。
身陷囹圄的胡仕虞，并没忘记党的事业。他人在哪里，就战斗在哪里，在监狱里不能与敌人真枪实弹的斗，就用笔做匕首向反动派宣战。在恶劣的环境下，在阴暗潮湿的牢房里，他挥笔写下《狱中杂记》的战斗檄文（现存衡阳烈士纪念馆）。文体有诗歌、纪实、散文，文笔流畅、真实。文中以大量的事例，真实、生动地描绘了狱中的情形，是“监牢小社会、社会大监牢”这样一幅黑暗社会最黑暗深处的写生画，充分彰显了一个置生死于度外的无产阶级战士的革命乐观主义精神。
冬去春来，胡仕虞在狱中坚强不屈，敌人始终无法从他嘴里获得零陵县共产党组织活动的秘密。１９２９年３月６日（农历正月二十五日）中午，大失所望的国民党县党部在对其长达半年的囚禁后，将胡仕虞杀害于零陵县城北的徐家井皂角树下。临刑时，胡仕虞昂首挺立，视死如归，高呼“中国共产党万岁”，痛斥国民党当局的罪恶行径，牺牲时年仅３１岁。