葛霁云，又名葛昊，曾化名葛济平，１８９６年出生于甘肃天水。葛霁云小学未毕业就考入省立第三中学（即天水中学）。１６岁辍学到天水县邮政局当译电员。１９２０年秋，被保送到北京交通大学学习铁路管理。
五四运动期间，葛霁云认识了革命先驱李大钊。在李大钊领导下，钻研马克思主义，接受革命思想，自觉投身于五四运动。１９２４年，葛霁云加入中国共产党。同年，离校后与共产党员南汉宸先后在天津、北京、上海、河南等地积极传播“十月革命”的火种，为在各地建立党的组织而积极工作。
１９２５年初，葛霁云倡议发起成立了天水籍在京学生组织——天水学会，并创办了季刊《新时代》，葛霁云任主编，公开地宣传马列主义。１９２５年春，葛霁云被派往国民军二军七师邓宝珊部工作。１９２７年１月，国民联军驻陕总部在西安成立，葛霁云任民政厅副厅长。他利用这个公开的合法身份，为党组织提供经费，掩护党内同志并发动各县积极组织农民协会，与反动势力作斗争。１９２７年４月，蒋介石发动反革命政变。葛霁云在西安被捕，经邓宝珊营救出狱。１９２８年春，葛霁云、岳跻山等在河南唐县组织游击队，计划开辟革命根据地。
１９３２年底，葛霁云到了兰州。此时，正值中共甘宁青特委刚刚组建、靖远起义失败不久，党在甘肃的工作正处在困难时期，许多党员都分散隐蔽了。葛霁云对甘肃行署副官长兼特务营营长及教导队队长杜汉三做统战工作，将一些共产党员安排在他的特务营和教导队，并分别担任了连长、排长等职。杜汉三对教导队和特务营中的共产党员的活动竭力进行掩护。
１９３３年秋，葛霁云被通缉，秘密去宁夏孙殿英部与南汉宸一起从事地下工作。１９３４年，孙殿英攻打宁夏失败，南汉宸去了天津，葛霁云去了新疆，在马仲英部搞兵运。１９３４年７月，陪同马仲英前往莫斯科学习。１９３６年，被派往西班牙工作。１９３９年，回国后在新疆工作。１９４１年，葛霁云在新疆被军阀盛世才杀害，时年４５岁。