1952年6月，为发展现代军事技术，培养现代军事工程技术人才，中共中央研究决定，把志愿军代司令陈赓从朝鲜战场上抽调回来，筹建中国人民解放军军事工程学院。
9月1日，经中央军委批准，军事工程学院筹备委员会在北京地安门恭俭胡同59号院组成，陈赓被任命为主任。1953年4月25日，学院基建破土动工，陈赓铲下第一锹土。
9月1日，以第一期学员开学典礼为标志，中国人民解放军军事工程学院在哈尔滨如期开学，陈赓被任命为院长兼政委。
在陈赓的领导下，军事工程学院建设事业于1955年初具规模。1957年底，第一期学员完成了毕业答辩（个别专业是毕业考试），学院教学工作走完一个周期，至此，学院基本建成。钱学森1959年1月23日来学院参观时说:“在我国现有的条件下，这么短的时间内办起这样一所完整的、综合性的军事技术院校，在世界上也是奇迹。”
从1953年9月1日到1966年6月l日，学院共招收13期18233名学员，培养出一万多名毕业生，研制出许多国内外先进水平的重大科技成果，多项科技成果填补了国防高科技的空白。
新中国成立不久，我国领导人就开始考虑发展自己的导弹技术。1954年，陈赓随同彭德怀所率军事代表团赴苏联参观原子弹爆炸实兵对抗军事演习，深受触动，回国后就考虑要着手培养原子弹、导弹人才。钱学森曾回忆说:“我回国搞导弹，第一个跟我说这事的就是陈赓大将。”
1955年11月初，在陈赓的倡导下，哈军工的任新民、周曼殊、金家骏三位教员给国防部写了一封信，提出研制我国火箭的建议。在陈赓的启发和配合下，1956年成立了导弹研究院，此后，陈赓一直很关心这项工作，还亲自从哈军工抽调一批专家和教授支援，组织了中国发展导弹事业的第一批骨干力量。
随着中央军委批准哈军工空军工程系建立我国导弹专业，哈军工于1958年在空军工程系下设导弹原子科，并于1959年2月正式成立导弹工程系（1961年以后改为火箭工程系），这是我国第一个导弹工程系，下设弹体发动机、自动控制、无线电遥控遥测、飞行力学和射击原理、特种武器5个专业。时任导弹研究院院长的钱学森再次来到哈军工，就导弹工程系成立后同五院的合作问题与学院领导交换意见。陈赓还派人抢建了存放我国最早的教学导弹1059（我国从原苏联引进的第一枚弹道导弹）的库房，保证了导弹工程系的教育教学工作顺利开展。
陈赓指出：“处在今天的原子、火箭时代，我们有可能、而且必须积极运用各种科学技术成就，大力培养高质量的科技人才，以加速我军现代化建设。”根据军委以导弹为重点的发展方针和学校实际，陈赓认为，全军只办一所综合性的技术学院无论如何都不能满足需要。从1960年下半年，分建工作全面展开。1961年8月，学院又相继成立了原子工程系和电子工程系。两个系的很多专业科目都是20世纪60年代的尖端专业。那时核武器问世才十几年，我国还没有原子弹，哈军工却已经设置了核爆炸、核动力等专科。
为了克服师资力量相对薄弱问题，陈赓请示周恩来总理批准，从留苏的导弹、原子弹专业毕业的研究生和地方重点大学的毕业生中，抽调一批科技人员担任教学、科研工作。
为了解决教材问题，陈赓曾指示国防部办公厅让驻外使馆的武官搜集外国相关资料，直接寄到学院，教授们翻译后将内容编入教材。哈军工教师王孝先编写的《核物理》、陆埮编写的《核武器杀伤破坏因素》成为我国早期核武器试验时必读的参考书，张若琪编写的《内爆力学讲义》、欧阳昌宇编写的《原子核反应堆理论纲要》成为我国原子专业的第一批专业教材。
在陈赓倡导下创建的导弹、原子、电子等尖端系及专业，培养了一大批国防科技事业发展急需的专业人才，为我国“两弹一星”事业的起步准备好了人才库。
