蒋介石与桂系开战后，蒋介石深恐冯与李白合兵，故特派邵力子等人到冯的驻节地华阴见冯，劝冯玉祥同蒋介石合作。当时在华阴总司令部内盛传邵力子带来了三个重要条件：一是冯玉祥任行政院院长。二是要孙良减回山东担任主席，如果有所不便的话，也可派石敬亭去山东任主席，青岛特别市归西北军接收。三是由冯在湖北、安徽两省中任选一省为西北军的地盘。蒋介石的要求是让冯玉祥通电声讨桂系，出兵湖北。但冯玉祥还是虚与委蛇，不作正面的答复，尽量拖延时间以待事态的发展。
不料正当长江战事激烈的时候，桂系将领李明瑞被蒋介石收买，突然倒戈，桂系遂一败涂地，这场战事如此迅速结束，对冯玉祥来说大大出乎他的意外。于是冯不得不答应蒋介石的要求，赶忙发了个声讨桂系的通电。可是这时蒋介石见目的已达，竟把上述的三个条件原封收了回去，冯玉祥真如哑巴吃黄连，有苦说不出。
在蒋介石基本上平定了桂系的挑战之后，将下一个目标对准了冯玉祥。蒋介石派特务散布说，冯玉祥和苏俄勾结，中央获苏联东方政治分会1929年2月10日致驻外各临时政治分会和军事分会训令一件，声称苏俄支持冯玉祥向天津、浦口发展，进攻蒋介石，向山西发展，打倒阎锡山，将中国西北部与苏联连成一片。这些说法引起阎锡山的警惕，随即加强黄河一线防务，以防冯军进攻山西。至此，蒋介石与冯玉祥之间的不满与日俱增，矛盾无法避免，战争一触即发。
1929年5月7日，蒋介石发布题为《和平统一为国民政府唯一之希望》的文告，称“欲消弭内乱，非铲除军阀不可；欲铲除军阀，非根本扑灭封建地盘思想不可”。矛头直接指向冯玉祥。冯玉祥也大造舆论，5月15日，冯部将领刘郁芬、孙良诚等通电指责蒋介石在外交上卖国、党务上非法指派国民党三全大会代表、行政上用人不当等，要求他立即下野，并公推冯玉祥为“护党救国西北军”总司令，正式向蒋发难。同时冯军主力集中于豫西、潼关一带，炸桥毁路，冯、蒋之间的军事行动呈一触即发之势。孰料就在双方即将交兵的关键时刻，原来依附冯玉祥的刘镇华、杨虎城、马鸿逵等部先后归顺中央，冯的心腹爱将韩复榘、石友三在蒋介石的“糖衣炮弹”的攻击下，纷纷背叛了冯玉祥，于5月2日通电“拥护中央”。
至此，双方还没有大规模的交战，韩、石率部东行途中即遭忠于冯玉祥的孙良诚、庞炳勋等部阻击。眼看内部相残，又见从滦州起兵时就追随自己的老部下竟临阵倒戈，再加上蒋介石强大的政治和军事压力，冯玉祥受到沉重打击，不得已采取了避战自保的防御策略，于5月27日发表“洁身引退，以谢国人”，“入山读书，遂我初衷”的下野通电，上华山隐居读书去了。冯玉祥第一次反蒋行动便胎死腹中。
3．冯玉祥的二次倒蒋
在扳倒冯玉祥之后，蒋介石便将打击目标对准了山西的土皇帝阎锡山。1929年8月1日，蒋介石在南京召开第二次编遣会议，这次会议明确规定军队总数不得超出65个师，省主席不得兼任军职，师长不得兼任政务官。政军分开主要是针对阎锡山，其时冯玉祥已经通电下野，李宗仁正在流亡，张学良与蒋介石私交甚好，晋绥平津地区就成了事实上惟一的编遣区。会议通过的《编遣实施会议闭会宣言》中宣称，编遣的目的在于化地方军为中央军，实行公军主义，各集团军交出军队，由蒋介石一人掌握，这让蒋介石分外紧张。
阎锡山对蒋介石分化瓦解地方实力派，以求各个击破的计谋洞若观火，眼见各集团军中力量最强的冯玉祥起兵伊始，即被蒋介石消弭于一旦，唇亡齿寒，阎锡山心惊胆战。1929年6月25日，阎锡山亲至南同蒲路上的介休县迎接冯玉祥抵太原，阎、冯二人见面，回想离北伐全胜仅只一年功夫，二、三集团军的鼎盛已如昨日黄花。不禁百感交集。但是双方仍是同床异梦，阎锡山窃喜冯玉祥为自己所困，又痛恨蒋介石过河拆桥，决计挟冯与蒋周旋到底。
冯玉祥初到太原后，被阎锡山安排到太原南郊名胜晋祠小住，阎每隔三、五日即去探望一次。但阎锡山此时并未打算切实和冯商讨反蒋大计，而是把精力放在与蒋及其近臣的电报战上，屡唱“与冯同行出洋，促成统一”的高调，使蒋无法下台，只得在授意国民党中央诸大员和供职南京的赵戴文接连去电拉拢阎锡山的同时，亲自赴北平约见阎锡山，以解决北方问题。
蒋介石到北平之前，先派吴稚晖、孔祥熙二人到晋，抚慰阎锡山和冯玉祥，并委任阎为西北宣慰使，兼办西北善后事宜，全权保护冯玉祥出国，给足了面子。阎锡山考虑北平市长何成浚虽是蒋介石的亲信，但军警大权均在自己手中，遂欣然随吴、孔去平谒蒋。阎锡山有其所恃，6月30日抵平当天，即强硬地对蒋重申冯玉祥出洋必须同行之意，因双方距离较大，阎锡山第三日便称病住进了德国医院。蒋介石专为解决问题到平，目的未达，怎肯甘休，不得已屈尊纡贵，携带礼物，亲自到医院看望，并于7月5日宣布取消对冯玉祥的通缉令，以示对阎特别尊重。