几番思量后，老蒋决定还平津及河北一带的兵力承担此次在长城一线抗击日军的任务。在经过1、2月份的整编、扩充后，长城一线及平津、河北一带有17军、29军、32军、40军、51军、53军、57军、67军等多支部队，总兵力约有30多万，应该能顶住日军一段时间。

解决兵力上的困扰后，还要安排好这次作战的总体指挥人选。

2月底的时候，在赣粤闽等地围剿中共武装的南京当局部队，一下子丢失了52、59两个师，李明、陈时骥两位师长被共军活捉。剿共是头等大事，出现如此变故，老蒋自己实在难以放心北上。可3月7日张学良下野后，要想指挥平津一带分属东北军、西北军、晋军、中央军等多个山头的部队，没有得力干将是不行的。

好在老蒋此前把何应钦派了过去，现在正好接替张学量指挥长城抗战。何应钦也知道现在去和日军对阵难有什么好结果，可对老蒋借“保家卫国，抗击外侮”大义名分所赋予的“重任”，又无法说出“不”字来。尽管知道北边那一干大小军头不好应付，日军更不好对付，何应钦还是硬着头皮着手布置起长城抗战来。

实际上，在何应钦于3月12日接替张学良指挥长城抗战的时候，中国守军已经在长城各口同日军激战了几天时间。

占领热河之后，日军并未停下前进的脚步，而是集结了4万多日军和3万多伪军，继续向长城一线的冷口、喜峰口、古北口等处推进，中国守军奋起抗击，长城抗战全面爆发。

从3月初到3月下旬的20多天中，日军对长城各口多次攻击，尽管日军有飞机、火炮等装备上的优势，但中国军队凭借地利之便，硬是靠着血肉之躯顶住了日军的进攻。

3月4日，日军混成第14旅一部占领冷口，但在6日，第32军发动反击，重新夺回冷口。

与32军相比，其他几路守军遭到的攻击稍迟一些，但各部作战也同样英勇。

在各路守军中，29军宋哲元部装备最差，可奋勇拼杀下，所取得的战果却最大。

由于装备远不及日军，3月9日，日军夺取喜峰口。但就在当夜，29军第37师第109旅旅长赵登禹所属团长王长海率大刀队于喜峰口夜袭日军，又将喜峰口夺回。此战中，500多人的大刀队仅生还20余人。

3月11日，当地猎户关仁景、于连贵等自告奋勇为向导，赵登禹率左翼大刀队袭日军步骑兵营地，第113旅旅长佟泽光率右翼大刀队袭日军炮兵阵地。东出铁门关，西过潘家口，由山间小路迂回至敌后包抄日军，给日军造成数千伤亡。喜峰口大捷轰动一时，振奋人心。

尽管日军宣称己部只战死数人，伤不到20人，指斥中国军队喜峰口大捷乃夸大其词。但此战后，日军因战力受损，被迫从承德方向调集早川、濑谷义的第31、第8两个联队，以及两个骑兵大队，加上装甲车、飞机等增援前线却是不争的事实。

其后，在29军防线上，日军又纠合蒙古、朝鲜伪军两个旅，总兵力超过万人，向罗文峪口发动进攻。

3月17日至19日，第29军所辖暂二师及第37师一个团、第38师一个团防守遵化罗文峪一带各口，由暂二师刘汝明师长指挥，总兵力约6000人，在罗文峪一带的长城在线迎战。血战三日，29军官兵再次击退日伪军，成功地守住了罗文峪。

在29军奋力拼杀的时候，中央系的17军也同样在浴血奋战。

3月9日，关麟征率17军25师到达河北密云县的石匣镇时，将部队开到古北口前线。但在出古北口东关不远，关部即与日军的前哨发生遭遇。

关麟征亲率第149团夺取右翼有利高地时，遭遇日军潜伏部队狙击。双方短兵相接，战斗惨烈，关麟征受伤多处，浑身是血，身旁随从官兵10余人全部战死，第149团团长王润波阵亡。在付出极大代价后，关部终于将敌人击退，占领了高地。

但在11日，日军第8师团主力向右翼阵地进攻，东北军王以哲部不支而退，制高点将军楼失守。日军占领古北口关口后，乘胜包围第25师戴安澜的第145团。此时，关麟征负伤，由杜聿明代理师长继续同日军苦战。请示徐庭瑶军长同意后，在古北口以南的南天门一线构筑阵地。

3月12日，日军在火炮和飞机的支持下，再次发动攻势。第145团被分割成两部分，师指挥所再次受到攻击，无奈之下，第25师只好撤退。