１９２７年４月１２日，蒋介石叛变革命，到处捕杀共产党员和进步人士。６月１０日，冯玉祥与汪精卫、孙科等在郑州举行会议，转向反共；６月１９日又与蒋介石在徐州会晤，举行了所谓徐州会议。紧接着，冯玉祥撤销了国民革命军第二集团军总部政治部部长、共产党员刘伯坚的职务，“礼送”苏联顾问乌斯曼诺夫等人回国，并命令各地逮捕共产党员和进步人士，西北地区的革命形势急转直下，到处笼罩着一片白色恐怖。冯玉祥反共后，国民军联军驻陕总部政治部副部长魏野畴无法立足，只好前往安徽太和县杨虎城军中。此时的杨虎城，并没有因为国内政治形势的骤变而动摇。他不但没有捕杀共产党员，反而拒绝上司命令，任命共产党员蒋听松为军部秘书长，魏野畴为军部政治处处长，南汉宸为军政学校校长，寇子严为第一师冯钦哉部参谋长，曹力如为第二师孙蔚如部政治处处长。许多共产党员如吴岱峰、杨实初、张学静、刘子华等来到杨虎城部，他也都委任职务，表现出了坚定的政治信念及良好的政治道德。在他的掩护下，到１９２７年底，第十军的共产党员发展到百多号人。当时，杨虎城本人也曾申请加入中国共产党，但当时的中共河南省委没有批准。
１９２７年冬，以南汉宸、魏野畴、蒋听松等组成的中共皖北特委，以杨虎城部为据点，在太和、阜阳、亳县一带开展兵运、农运，准备发动暴动。魏野畴、南汉宸等特委的领导人，曾和杨虎城多次商谈要杨虎城率部起义。杨虎城觉得部队缺少基层骨干，一时抓不起来。如果勉强起义，少数人硬干，难免失败。他主张积极充实革命力量，加紧训练军事干部，不必急于暴动。因此和魏野畴、南汉宸等也有争执。
１９２８年春，以魏野畴为首的中共皖北特委（归中共河南省委领导）发动了阜阳暴动，成立了皖北工农红军，建立起皖北苏维埃政权，后因国民党部队和当地地主豪绅武装的围攻而失败。魏野畴不幸被捕牺牲。这时，蒋介石下令要杨虎城逮捕南汉宸等共产党员。杨虎城没有执行这个命令，他在离开太和去南京前就曾对参谋长孙蔚如说：“这些朋友都是我们请来的，即使一时不能合作，也要对得起朋友，要有道义，要留有他日见面的余地。”他还对南汉宸说：“我宁愿离开我的部队，也不愿把同你的关系搞坏。”
１９２８年下半年，蒋介石在南京政府中独揽了全部军政大权，开始了第二次“北伐”。杨虎城不愿参加蒋介石的“北伐”，化名“呼尘”，去日本疗养。在日本期间，他到处参观游览，考察政治、军事，与陕西留日进步学生接触。由于目睹了日本垄断资本日益扩大和劳动人民日益贫困的现象，他进一步认识到日本帝国主义除了向外侵略，别无他途。这对他以后坚持抗日具有重要作用。
１９２８年１１月，杨虎城回国。这时，蒋介石、冯玉祥之间矛盾尖锐，分别用各种手段极力拉拢杨虎城。杨虎城部虽还属冯玉祥的第二集团军，但已缩编为暂编第二十一师（杨虎城任师长），被调到山东临沂去剿办鲁东顾震、刘桂棠等匪部。杨虎城回到部队后，常到操场亲自督练，发表讲话，对军队进行爱国爱民教育。他强调：军队要讲纪律，不得扰民，并尽可能帮助老百姓。
１９２９年３月，杨虎城率部打垮了盘踞在莒县、日照地区的刘桂棠匪部。接着又完全消灭了盘踞诸城、安邱一带的顾震匪部，随后又扫灭了其他多股土匪武装，两个月时间就把鲁东铁路以南十余县的匪患肃清，受到人民的热烈欢迎。鲁东的刘桂棠、顾震等匪军，都是蒋介石给的番号。杨虎城打垮了他们，实际上是帮助冯玉祥铲除了蒋介石伸向山东的黑手。但是，杨虎城部的作战能力和严明的军纪，却受到了蒋介石的赏识。
１９２９年４月，蒋、冯关系破裂。冯玉祥为了对付蒋介石，把他驻鲁豫的部队调往洛阳以西集中，也令杨虎城部西撤。因杨虎城部多数军官对冯玉祥不满，加之胶东一带地方绅商挽留，杨虎城没有听从冯玉祥西撤的命令。蒋介石闻讯，即让何应钦电告杨虎城：“驻防原地，维持秩序，所有部队经费、番号，中央当负责解决。”极力拉拢杨虎城。杨虎城为了保存实力，接受了蒋介石改编的命令，就任新编第十四师师长。
９月，蒋介石命令杨虎城部移防河南。杨虎城从徐州去南京见蒋介石，受到蒋介石的慰勉，说他的部队在山东军纪好，调往河南是为了防备冯玉祥部由荆紫关东进，并问他的部队能否与冯玉祥部作战。杨虎城表示他才脱离冯玉祥的节制，马上就去打冯玉祥部，不甚合适；但如果使他守一个地方，冯玉祥部来攻，激发了部下的敌对情绪，就一定能坚持到底。蒋介石认为他说得很对，决定让他守备襄樊的前哨老河口。后经幕僚研究，又改为守南阳。蒋介石当面问杨虎城南阳能守多久？杨虎城说：“只要有米面吃，有子弹打，命令守多久我就能守多久。”蒋介石大喜，说：“你曾经坚守西安八个月，我相信你可以守住南阳，至于粮食子弹自然充分供应。”于是，杨虎城部改调南阳，蒋介石又加委杨虎城兼任南阳守备司令。
１９２９年冬，蒋、冯战争爆发，双方主力在洛阳以西交战。冯玉祥部刘汝明率大军由商洛出荆紫关东进。蒋介石令唐生智的第五路军集结洛阳一带对付冯玉祥部主力，令杨虎城坚守南阳，阻止刘汝明部东进。杨虎城派部下商洛籍的一些官兵化装回原籍，侦察荆紫关以西冯玉祥部兵力、番号及动向，得知刘汝明部无后续部队，乃改变坐守南阳的战法为以主力控制南阳，另派孙蔚如旅突然西击，在西峡口大败刘汝明部，获得蒋介石的嘉奖。
唐生智在打退冯玉祥部主力后，１２月间与石友三相约共同反蒋。唐生智自称护党救国军总司令，率主力由平汉路南下，进攻武汉，并派陕西三原人李文卿以他的总参议身份，密到南阳，游说杨虎城共同讨蒋，并委杨虎城以护党救国军第九军长职。杨虎城对蒋介石有看法，欣然受命，准备利用蒋介石调他到信阳布防的机会，袭取武汉，逐鹿中原。一天，他看到了阎锡山拥蒋讨唐的通电，知道唐生智部孤立，不能久长，便决定随机应变，将计就计，把李文卿款待在洛阳，自己则领兵奔袭唐生智部驻守的驻马店。当时，军阀混战，变幻莫测。蒋介石部的识别标志是官兵每人脖子上围一条像西装领带一样的红白蓝三色识别带；而唐生智部每人左臂上缠一条长方形的红白黄三色识别带。杨虎城命令部队准备两种识别带。随军参谋长李振西问：“佩哪一种识别带？”杨虎城说：“两种都准备上，到时再说。”
杨虎城率部拥进驻马店，枪声四起，火光连天。唐生智部的指挥机构全被破坏，散兵逃窜，一片混乱，后虽组织了几次反扑，均被杨虎城部击败，只得向东逃去。此役给唐生智以致命打击。杨虎城向蒋介石报捷，蒋介石一时不敢相信。原来，蒋介石对唐生智的叛变十分恐慌，怕唐生智部进入武胜关，联络湖南何键夹攻武汉，夺去他的半壁江山。他亲自到武汉主持讨唐军事，又无取胜良策，正在苦恼之际，接到杨虎城部报告，当确信唐生智部大败之后，立即复电对杨虎城备极嘉奖，并批发赏金十万元，接着，又命令把新编十四师改为陆军第十七师，擢升杨虎城兼任第七军军长。
１９３０年４月，冯玉祥、阎锡山联合反蒋，演成民国以来规模最大的军阀混战。蒋介石任命杨虎城为讨逆军第十七路军总指挥，负责平汉路以西广大地区的攻守任务。杨虎城曲意应付，未卖大力。在战争中，扩编了四十二、五十八两个师。８、９月间，张学良率东北军入关，阎、冯受挫。蒋介石令杨虎城率军西进。杨虎城带领部队占洛阳，攻潼关，追击冯玉祥部，于１１月占领西安。蒋介石委任杨虎城为陕西省政府主席。至此，蒋、杨相互利用的关系达到了最高峰。
杨虎城任陕西省政府主席以后，希望组成一个较开明的政府，“为老百姓办些好事”。他曾对部下孔从洲等说：“当国民党的官，难免刮地皮，不过，我想把刮地皮的钱，尽量用来给老百姓办事。”所以，他重用有知识有作为的人才，提名南汉宸为省政府秘书长，李百龄为教育厅厅长，李仪祉为建设厅厅长。
南汉宸在皖北时，曾任中共皖北特委书记和杨虎城部军政学校校长，杨虎城对他非常信任，把省政府的许多大权交给他，自己具名。而南汉宸也没有辜负杨虎城的厚望，把陕西省务治理得井井有条，是杨虎城主政方面最为得力的助手。
值得称道的是，杨虎城对教育事业的大力投资和对兴修水利的积极支持。
李百龄任教育厅厅长时，陕西教育一片凋零，教师的工资有时也难以支付。杨虎城采纳李百龄等教育专家的意见，大量压缩军费，增加教育经费，扩大招生人数，提高教学人员的生活待遇。为了提高教学质量，杨虎城还任用有知识的进步青年为各级学校负责人。当时较为著名的武功西北农林专科学校、蒲城尧山中学和井勿幕图书馆就是在杨虎城的有力支持下办起来的。１９３１年春节期间，杨虎城接待了一个蒲城老乡、当地有名的教育家冀和亭。冀先生在家乡办学，把自己的家产卖光了，听说杨虎城热心教育事业，便来找他资助。杨虎城高兴地说：“我就任三个多月，咱县上来找我的人不少，大都是想升官发财的，你是唯一找我谈办教育的，我很欢迎。”随即拿出三万元交给冀和亭。冀和亭很感动，在蒲城东乡办起第一所高级小学——孙镇小学。由于杨虎城对教育事业特别重视，对知识分子同情和支持，所以陕西的教育事业在他主政期间大有起色。
杨虎城对兴修水利也相当重视。１９２８—１９３０年，陕西关中连续三年大旱，赤地千里，饿殍遍野，死亡人数达２５０余万。杨虎城就任陕西省政府主席后，深感旱灾给三秦人民带来的痛苦，决心兴修水利。他特地请留德水利专家、当时在外地任职的李仪祉来陕，任命为建设厅厅长，领导水利建设。自１９３１年至１９３９年，李仪祉先后主持设计修建了泾惠渠、洛惠渠、渭惠渠、梅惠渠四项工程。仅泾惠渠工程，就使礼泉、泾阳、三原、高陵、临潼等五县７０多万亩旱地变为水浇田。在修洛惠渠时，杨虎城和李仪祉曾亲自实地视察。后来，款源发生困难，李仪祉给杨虎城写信说：“泾惠渠由公手而成，亦复有意再成洛惠渠乎？”杨虎城欣然拨款１２０万元，资助修渠。这条渠，仅蒲城、大荔、朝邑等县就有５０万亩旱地受益。
杨虎城重视知识分子，注重培养人才。１９３２年，他计划建立陕西讲武堂，拟聘北洋陆大、保定军官学校出身的人才任军事教官。这个计划后因连年灾荒、武器被阻等原因，未能实现。他随即举办了步兵训练班，训练军事骨干。从１９３２年起，杨虎城先后委任日本士官学校毕业的中共党员唐明哲为十七路军总部军械处长，云南讲武堂毕业的王根僧为少将参谋处长，黄埔军校毕业的王泰吉为骑兵团长，保定军校毕业的李兴中为中将参谋长，韶关讲武堂毕业后又留苏的中共党员许权中为旅长，韶关讲武堂毕业的中共党员童陆生为宪兵营副营长。与此同时，他还选派思想进步的青年外出深造。军事方面，派王进荚、任云章去广东韶关讲武堂、四川讲武堂学习，刘云龙、周诚去黄埔军校学习；政治方面，派庞志杰去北京大学学习；还派了许多有志青年去国外留学，资助王炳南、袁若愚、李敷仁、李子健、刘佛吾去日本（王炳南后又去德国），郭则沉、江隆基、韩鲁、樊雨农去德国，潘自力去法国，原政庭、薄克敏、亢心栽去英国。杨虎城十分关怀他们的成长，不时写信鼓励他们好好学习，刻苦钻研。
杨虎城提倡学术自由，学校可以公开讲授各种学术观点，包括马克思列宁主义学说，书籍任人阅读，任何思想言论都可自由发表。九一八事变后，蒋介石不许谈抗日，到处张贴“勿谈国事”等标语。但杨虎城主政的陕西地区宣传抗日仍然自由。这有利于爱国群众运动的开展。