张学良成立两个集团军，自兼第一集团军总司令，由于学忠、商震、宋哲元分任1、2、3军团长；张作相为第二集团军司令，由万福麟、汤玉麟、张作相分任4、5、6军团长。张作相、汤玉麟原是张作霖的老把兄弟。张作相是张学良的父辈，素有“浑厚”之名，他原担任吉林省边防副司令兼吉林省主席。但他不学无术，既无威以制人，又无智以服人，无信心，无决心。他指挥的第二集团军有六七万人。汤玉麟又是热河省主席，在东北军中素以骄横跋扈著称，外号“汤大虎”。他在热河省命其二儿子汤佐辅为财政厅长，大儿子汤佐荣为禁烟局长，横征暴敛，大开烟禁，以充军饷为名，中饱私囊。汤家父子老少“3虎将”热河省造成人间地狱。张学良本来见汤玉麟难挡国防要塞，有撤换汤的意向，征求张作相的意见。张作相与汤玉麟交情极深，深知汤为人蛮横，绝难接受命令，请张学良考虑，张学良未能斩钉截铁地作出决定。事为汤玉麟所悉，大为愤懑，表示坚决反对，阴谋同伪满勾结。张作相得到消息，深恐因此造成东北集团分裂，即派亲信到承德向汤陈述利害，进行劝解，才使矛盾缓和。张学良怕汤玉麟再起疑心，用张作相任第二集团军总司令，以安汤心，以利指挥。
2月16日晚，张学良在北平顺承王府官邸召集有关将领会议，分配防务。他将热河地图铺在地板上，手执红蓝铅笔俯伏地上准备划防地，首先仰面向宋哲元说：
“明轩，你可把守长城、冷口、喜峰口一线。”
宋哲元厉声道：“我的兵力太薄，装备又差，怎能担当了这么一个大面。”
张道：“不要紧，你的右翼有何柱国，他可以支援你。”
宋很不客气地说：“何柱国是败军之将，靠不住，我怎能信他？我不干。”
张极感难堪，约有几分钟没有抬起头来，后来说：“再商量吧！”
次日，张学良、宋子文、杨杰等偕同随员卫兵分乘汽车卡车30余辆，浩浩荡荡向热河省会承德进发。汤玉麟闻讯，怕对他不利，大骂：
“小六子（张学良小名）是不是勾结宋子文等来打我的主意？”
左右人说：“宋子文是代表中央，张汉卿是华北直接指挥的长官，因热河防务吃紧，前来视察，阁帅可趁机向他们要些钱，要些东西，是有利的，应当表示欢迎。”
汤这才无话，并率文武官员数十人欢迎。
张学良在承德，以他和张作相、汤玉麟、万福麟等27名守卫热河有责的将领的名义，向南京及全国通电，表示决心抗战，呼吁全国一致支援。
张作相听说发出通电抗战，生怕日本人恼怒，加速进攻热河，叹气说：“一点没有准备，发出这样一个电报，岂不是惹祸吗？”
张学良、宋子文于2月19日返回北平。
3天后，日军大举进攻热河。防守主将张作相原计划配备的兵力有一半以上尚未到达防地，根本未构成一个防御体系，又加士气低落，真是将无决心，兵乏斗志。日本人用飞机扔了几个炸弹，用机枪扫射几下，又出动几部坦克车，已在防线的汤玉麟第5旅旅长崔兴武即首先投降，守凌源一线的万福麟的第四军团闻风溃退，朝阳亦即不守，三线阵地同时溃败。复有平时受日军收买的汉奸作为向导，因此，日军如入无人之境。3月4日晨，在承德的汤玉麟望风而逃。
万福麟谎报军情，逃入喜峰口，汤玉麟不战而退，遁往滦平。日军以少数快速部队，长驱直入。倘日军由承德乘胜追击，轻骑疾进，在这无阻拦的道路上，一日夜可直捣北平。华北局势，危殆万分，非杀一二统兵大员，不足以维持军纪。万福麟在退入喜峰口后，电张学良要求回北平一行。张气愤地说：
“要你率部反攻，你要回来，拿头来见我！”
张学良接受东北民众抗日救国会军事部长兼东北义勇军第二军团总指挥王化一的建议，将汤玉麟捉住正法，以振士气，而励人心，但汤玉麟畏罪逃往察哈尔，竟得幸免。
张学良调动部队，加强古北口的防御。又派代表去张家口，向冯玉祥通报战况，特请冯给予指示。冯玉祥希望张学良亲到滦州指挥，悬重赏克复山海关，并夺回锦州；要张直接电蒋，要所有的骑兵由经棚东山，抄敌后路；要张与民合而为一地去抗日，并释放政治犯，鼓励张报父仇，雪国耻。
热河失陷后，全国舆论哗然，愤怒谴责南京政府，也谴责张学良。张学良决心抗战，他对部下说：
“我与蒋先生约定在保定见面，我要与他商讨反攻热河，主要条件是必须补充枪炮弹药。我想要求补充1200挺轻重机枪和300门迫击炮，再就是要充足的弹药，能加些高射炮更好。若是中央有决心抗日，应向日本宣战，动员全国力量与日本人一拼，我是有决心亲临前线的，干死了比活着受全国人唾骂好得多。人反正有一死，我是不怕死的，就怕南京假抵抗真谋和，那我就没办法了。”
3月6日，蒋介石自南昌北上，8日通知张学良去保定相见。9日，张学良到了保定，蒋介石却未如约到达，而让宋子文先来传他的话：“热河失守，张学良守土有责。全国人民谴责政府，中央政府责无旁贷，蒋首当其冲。正如同两人乘一只小船，本应同舟共济，但是目前风浪太大，如先下去一人，以避浪潮，可免同遭沉没。将来风平浪静，下船的人仍可上船。若是互守不舍，势必同归于尽，对自己对国家皆没有好处。”
张学良说：“当然我先下去，正好趁机会休息休息。请告蒋先生不必烦心。”
宋子文立即向石家庄打电话给蒋介石说：“汉卿态度很好，一切服从委员长的命令和安排，请委员长速来见面。”
5个小时后，蒋介石的专车到达保定。张学良的卫兵吹迎接官号。张学良戎装立正，行军礼恭迎。
蒋不待张开口，首先很庄严地说：“我接到你的辞职电报，很知道你的诚意，现在全国舆论沸腾，攻击我们两人，我与你同舟共命，若不先下去一人，以息全国愤怒的浪潮，难免同遭灭顶。所以我决定同意你辞职，待机会再起。子文传达你慷慨同意，这是好的，好的。一切善后问题，可按照你的意见办理，有什么问题与子文商量，他可以代表我。”
张唯唯喏喏地说：“我感谢委员长的苦心，我身体不好，精神萎靡，东北丢失，我早就想引咎辞职。这次热河之变，我更是责无旁贷，免去我的本兼各职，正所以申张纪律振奋人心。我想日军必很快进攻华北，以遂其并吞整个中国阴谋，委员长应考虑动员全国与日本宣战。目前应急调中央劲旅与东北军配合反攻热河，以阻止日军前进。”
蒋介石连说：“是的是的。”
张看蒋不愿多谈，即行退出。
张退回自己的专车约5分钟，蒋偕宋来到张的专车回拜，无非用好言安慰张，劝他次日飞上海，免部下夜长梦多，并要张到上海后赶快出洋治病，出洋名义和手续，当妥为安排。
蒋介石临走时连说：“汉卿，再见吧，再见吧。”并目视宋子文说：“子文你留在后面，多与汉卿谈谈。”
蒋即乘专车回石家庄。宋子文同张学良商谈，将东北军分编组为4个军，由于学忠、万福麟、何柱国、王以哲4人分别统率，北平军分会由何应钦任代理委员长，并调中央军黄杰师和关麟征师开赴古北口，以抵抗日军前进。
张学良乘自己的专车向北平进发，他在车厢的卧室里，猛一拳打在床上，随即伏枕大哭，非常沉痛。端纳和王卓然闻知，过来劝他：
“作为一个大丈夫，要勇敢、坚强。你还记得老帅的话吗？福兮祸所伏，祸兮福所倚。你正好借机休息，恢复健康，若是真的要责成你反攻热河，你的身体精神皆不胜任，那时失败，不如这时痛痛快快一走，把病治好了，留得青山在，不患无柴烧。”
张学良一跃而起，仰天狂笑：“蒋先生以和为主，还不知演出什么戏来。人骂我不抵抗，我也不辩，但是我下野后，天知道我这不抵抗的罪名要背到哪天？我仿佛记得林肯有这么几句话：你可欺骗全体人民于一时，或欺骗部分人民于永久，但不能欺骗全体人民于永久。”
3月11日，张学良通电辞职。偕夫人于凤至、秘书赵荻小姐及3个子女等去德国、意大利“考察”。
日本大举入侵，举国震惊，许多著名爱国人士、热血青年及抗日团体，都把目光投向冯玉祥。冯玉祥得知日本人占领山海关的消息时，曾毅然决定把自己在张家口的房产押出去，为前方将士做了1万件大皮坎肩，用去4．8万元。
邹鲁等人于1月5日从广州密电冯玉祥：“榆关已失，华北危机，抗日救国万难刻缓，请公力为提携并示方针，以便一致动作。”冯立即分别密电广州、上海的李烈钧、徐谦、程潜等国民党中委，呼吁：“现在已至最后关头，非速图抵抗，不足以挽兹垂亡之局。”他痛斥蒋介石，并表示以与暴日作殊死战，提出：“凡为民族独立而同情于抗日者，皆为吾友，应相互提携之。凡为亲日辱国以阻挠抗日者，皆为吾敌，应竭力攻击之。”
章太炎从上海给冯玉祥的信说：“自榆关陷后，弟私念今日与敌人决一雌雄者，唯兄一人。兄忍辱负重，得之天性，但求立功报国，何计委任之出谁手乎？”力劝冯迅速率军杀敌。
冯玉祥与共产党的接触更加频繁，向共产党提出派干部同他一起筹划组织抗日同盟军。共产党员张存实、张慕陶、武止戈、许权中等来到冯玉祥那里工作，共产党员宣侠父也以南京政府高级军事参议的身份来到察哈尔。
冯玉祥派人去北平拜见著名爱国人士朱庆澜，去天津找吉鸿昌（已加入共产党）、石友三。请朱庆澜在饷项上帮助，朱慨然答应。吉鸿昌立即去张家口，高兴地对冯说：“我是绝对要抗日的，冯先生不找我，我也打算来，我决心以身报国，万死不辞。”
吉鸿昌与冯玉祥共举抗日大旗，石友三则拒不参加抗日。
蒋介石、汪精卫那厮对冯以武力准备抗日十分恐慌，屡电劝冯晋京。1月21日，孙科电冯，称蒋“敦请”冯等齐集首都，协谋御敌，表示甚诚。冯复电道：“倘介石先生有决心抗日，就应立即兴师，以未死之人心，复已失之国土。”
国民党中执会再次电冯回京“共图大计”。冯复电说：“组织统一指挥之军事机关，统筹抗日军事之全盘计划。立即调遣精锐部队开赴热河、滦州等地最前线，严密布防，相机进击。并派兵防守河北、山东、江苏各海口，以防日军扰乱，再准备充实之预备军，分驻于山东、河南、河北、察哈尔，以厚兵力，派专员设置兵站于大军行径各地，以源源接济给养，免向民间勒索，义勇军之一切子弹饷糈，应予以充分接济。恢复各种民众组织，加以军事训练。”
南京政府又先后派王法勤、黄少合、王月芝、李烈钧、马伯援、黄绍竑、熊斌、王懋功等来张家口劝冯进京，3月中旬，蒋介石驻保定，先后派李烈钧、马伯援去见冯玉祥，邀他到保定会晤，冯派陈希文代他到保定见蒋，提出：“（1）不可与日妥协。（2）补充前方饷械弹药。（3）抚恤伤亡官兵。（4）请蒋亲率大军出关收地。（5）政治刷新，与民更始。”
3月24日，孙科再次电约冯去保定晤蒋。冯函复蒋说：“如蒙采纳实行，则不独赴保，即任何驱使，亦不敢辞。”
5日后，黄绍竑、熊斌来见冯，劝冯南去，冯说：“蒋若不认识过去之罪，痛改前非，与民更始，谁敢往南京去！”
冯玉祥在张家口加紧组织民众抗日同盟军，派出代表多人与自己旧部和各地联络。张人杰和鲍刚两部首先响应，并派人去南京密约方振武。方振武即潜回山西领导张、鲍二部，组成抗日救国军，北上抗日，将军队开往张家口，与冯会师。驻山西汾阳的军校，系冯的嫡系，该校的领导骨干和学员多为共产党员，4月末，全校师生3000余人经长途行军，来到张家口。
5月24日，盘踞多伦的日、伪军向南侵犯，沽源失陷，察哈尔的形势日益险峻，武装抗日已刻不容缓。齐集在张家口的各部队和各团体、各地区代表经共同协商，组织了民众抗日同盟军；公推冯玉祥为总司令。冯玉祥于当日发表通电宣告就职：
政府殆始终无抗日决心，始终未尝制定并实行整个作战计划，且因部队待遇不平，饥军实难作战。迩者，长城全线不守，敌军迫攻平津，公言将取张垣。不但冀察垂危，黄河以北，悉将不保。当局方以忍辱负重自欺，以安定民心欺人。数月以来，平津沪粤、及各省市民众团体，信使频至，文电星驰，责以大义，勉以抗日。谨依各地民众之责望，于民国22年5月26日以民众一分子之资格，在察省前线，出任民众抗日同盟军总司令。率领志同道合之战士及民众，结成抗日，武装保卫察省，进而收复失地，争取中国之独立自由。凡真正抗日者，国民之友，亦我之友，凡不抗日或假抗日者，国民之敌，亦我之敌。
冯派兵占领察哈尔省政府，撤销了原代理察省主席兼民政厅长仵墉，查抄了国民党蓝衣社派遣的特务机关“张家口骡马补充所”。委任佟麟阁暂代察哈尔省主席兼民政厅厅长，张允荣为财政厅厅长，吉鸿昌为警备司令兼警察处长、公安局长，张砺生为警备副司令。同时发布抗日同盟军总司令部的组成人员。
此时长城边上正打到激烈处，日军既占热河，又攻喜峰口、冷口和古北口，意在越过长城，进逼中原。原属冯军的宋哲元部奋起抗击，将士用大刀与日军拼杀，使日军不得越喜蜂口。冷口守军商震部32军也奋起抗击，日军狼狈，不能推进。此处受挫，日军改由山海关向滦东进攻，占领石门寨后两面夹击冷口，进占冷口后，再占喜峰口和古北口，之后强渡滦河，侵袭滦西，冀东20余县均为日军占领。平津危急！察东危急！
蒋介石守定对日的既定方针，不抵抗，一味请求国联主持“公理”。5月3日，蒋介石同汪精卫命北平政务整理委员长黄郛与日方代表交涉。黄郛在上海、北平与日方进行秘密接洽，何应钦在北平来不及请示蒋介石，就同意日方提出派军使向关东军要求停战，并由黄绍竑专程去庐山向蒋介石面报。蒋介石要汪精卫、孙科都到庐山听取黄绍竑汇报。蒋在黄绍竑发言之后连声说：“好，好，你们处理得对。”
5月27日，蒋介石致电何应钦说：“停战协定不形诸文字，此节最所企盼。如万不得已，则于成文之内容，应参照国防会所议之案，及中迭此复电，妥为运用，审慎规定，万一谈判决裂，只有不顾一切，并力死拼，尤应及早准备，北方内容复杂，前途困难，中岂不深知，递应尽吾人最后之努力，以尽其职责，不得不然耳。一切成败利害，不必再计，吾人荣辱同体，断不令兄等独任其难，艰危至此，全赖兄精心毅力以撑持，幸勿稍存消极，倘战事再发，中当此行，同生共死。”
何应钦遵照蒋介石旨意，派北平军分会总参议熊斌与日本关东军副参谋长冈村宁次在塘沽正式谈判。在此期间，汪精卫电示黄郛说：“除签字不承认伪国（满洲国），割让4省之条件外，其他条件，皆可答允。”
熊斌与冈村宁次签订了《塘沽协定》。这个协定，事实上承认了日本占领东三省、热河的“合法性”，并将冀东19个县划为日军可以自由出入的“非武装区”，绥东、察北和冀东完全处于日军控制之下，给了日军以侵华的特许状，造成了中国领土的又一次割裂。
协定签订后，汪精卫致电何应钦、黄郛：“倘因此而招国人之不谅，反对者之乘间抵隙，弟必奋身以当其冲。”
蒋介石、汪精卫等与日妥协，暂且不提。北平、天津及华北等地的爱国青年和学生纷纷涌向张家口，抗日武装力量迅速壮大，民众抗日同盟军已达10万之众。6月15日，民众抗日同盟军在张家口召开第一次军民代表大会。冯玉祥、吉鸿昌、方振武，共产党员宣侠父和张慕陶等都出席了大会。会上通过了民众抗日同盟会纲领、军事问题、财政政策等数个决议案，确定民众抗日同盟军各军长官：
第1军军长 佟麟阁 参谋长 何章海
第2军军长 吉鸿昌 参谋长 崔贡琛
第5军军长 阮玄武
第6军军长 张凌云 副军长 徐福胜
第16军军长 李忠义
第18军军长 黄守中
第5路军总指挥 邓 文
第6路军总指挥 刘桂堂
骑兵挺进军总指挥 孙良诚 参谋长 傅同善
察哈尔自卫军军长 张砺生
抗日救国军总指挥 方振武 参谋长 阮玄武
抗日救国军属下
之第1军军长 张人杰 参谋长 李庭华
之第4军军长 米文和
蒙古军
之第1军军长 德穆楚特栋鲁普
之第2军军长 卓特巴扎普
之自卫军军长 富龄阿
总部直辖4个独立团和1个卫队团。
警备司令 张允荣
交通司令 高树勋
冯玉祥率先举起抗日旗帜，使全国人民的抗战精神为之振奋。以张作相领衔东北军50多位将领公开通电响应，上海的马相伯、章太炎等发来贺电，全国各地纷纷来电来函，表示衷心拥护和祝贺。
6月20日，冯玉祥任命吉鸿昌为北路前敌总指挥，邓文为左副指挥，李忠义为右副指挥，统率大军北进，收复察东失地。方振武不愿留在后方，执意要上前线，与敌人一决雌雄。冯又任命方振武为前敌总司令。
民众抗日同盟军由于有共产党人随军鼓动宣传，官兵士气高昂，沿途又得到农民群众的热情支持，大军所向披靡。6月22日攻克康保城，7月1日收复宝昌。
冯玉祥及抗日同盟军的英雄业绩，给全国人民带来胜利的希望。连日来，全国各地抗日组织和团体、力主抗日的著名人士纷纷发来电函，热烈祝贺抗日同盟军收复失地，踊跃捐款捐物，进行慰劳。
但是，蒋、汪则反其道而行之。当抗日同盟军成立之初，何应钦电告冯玉祥，请其取消抗日同盟军名义。蒋介石从南昌致密电汪精卫：“冯有今日，固早预料，今其赤色旗帜已益鲜明，使中外皆易认识，不为所蔽，则中央处置更易。”随即，蒋又以官位和金钱拉拢收买冯的部下及愿与冯合作的将领。蒋的挖心战术，使冯占海等先后离去。何应钦还拟以孙殿英主持察政。
蒋介石谋派兵对抗日同盟军进行武力镇压，他密电何应钦：“速筹军事之彻底办法。”国民政府军事委员会命宋哲元、庞炳勋、秦德纯派人劝冯取消名义，奉还察政，离张家口，另谋安置。此计不成，何应钦命令庞炳勋、关麟征、冯钦哉各部，自7月8日起分别行动，分3路向抗日同盟军围攻。孙殿英部将原沙城一带防地腾出，由庞所指挥的部队填驻。“围剿”抗日同盟军的国民党大军，已压察境。
7月10日，冯玉祥致电李烈钧大呼：“现我军正进至多伦西、南、北城关附近，于贼肉搏中，宁方竟公然调兵遣将，将入察攻我。此真千古奇闻，亦人类变局也。”呼吁李烈钧在南京“联合正义义士，为我义师主持正义。”
此时，抗日大军分3路围攻多伦。多伦系察东重镇，日寇茂木骑兵旅3000余人及伪军李守信部驻防，防守固若金汤。吉鸿昌总指挥在晚间亲率敢死队，赤膊匍匐前进，爬城3次，均未奏效。7月11日，同盟军将士舍生奋战，与敌以大刀肉搏，仍久攻不下，战斗惨烈，伤亡甚重。冯玉祥悲愤交加，向前线抗日将士发出多伦最后决战以死报国电。冯的电报给了浴血攻城的将士以极大的鼓舞。
7月12日，吉鸿昌急中生智，派精兵潜入城内，里应外合，始将多伦城攻破。又经3个多小时的巷战肉搏，方将残敌彻底击败，失守了72天的多伦，经过5昼夜血战，终于被民众抗日同盟军光复。同盟军士气高涨，乘胜挥师，不久，将察东各县失地全部收复。共击毙日伪军1000余人，抗日同盟军有1600余名官兵献出了宝贵生命。
