华北日军在平汉、津浦线方面作战比较顺利，但在晋北地区则陷入苦战。日本大本营指示华北方面军迅速完成平汉、津浦线作战任务，并夺取太原。因此方面军命令第1军和第2军迅速进入德州和安阳一线，并于10月19日命令第20师团攻占娘子关，进入阳泉，为尔后进攻太原作准备。
10月20日，第20师团师团长川岸文三郎下达命令：师团决定分两个纵队向阳泉发动进攻。第39旅团为右纵队，继续由娘子关正面攻击守军；第40旅团为左纵队，从右纵队正面之敌背后，进入井陉附近集结。师团部设于井陉。全师团于21日行动。
21日，第20师团右纵队对娘子关守军正面继续发动攻击。为挽回战局、歼灭入侵日军，孙连仲于15时下令向当面日军袭击：第3军袭击旧关东南高地之敌并占领之；第31师袭击旧关及西面高地之敌并占领之；第27师除袭击1000高地附近之敌外，须与大、小龙窝友军取得联络，并占领核桃园；第30师袭击北峪、东西葛丹之敌并占领之。战斗竟夜无大进展。
22日晨，日军陆空军协同向第27师阵地及第30师阵地猛攻。第30师出击的第178团被日军包围。第30师力战后将日军击溃，178团撤回原阵地。第27师第79旅及新编第10团伤亡六百余人，该旅旅长黄樵松遂令各团余部撤守地都附近阵地。
当日15时，黄绍竑令第26路军即日缩短战线，占领绵山顶及苇泽关一带阵地，阻敌西进。孙连仲奉令于20时开始向神仙洞、绵山顶、苇泽关、宋家岩之线变换阵地，并于22时致电阎锡山告之：第2集团军自房山、琉璃河起，累经激战，从未休补；西移娘子关后连战十余日，伤亡甚重，所余兵力不足六千人，阵地绵延50余里，兵力甚感单薄，若任何一点被敌突破，即无法应付，请速调生力军增援。
这时，川军第22集团军邓锡侯部刚到太原，阎锡山即令该部第41军军长孙震率部，由正太路输送至阳泉，归黄绍竑指挥。
日军右纵队继续攻击娘子关正面守军阵地时，其左纵队于21日由橫口车站南下，22日晚大部到达南北障城，一部进抵侧鱼镇。增援娘子关的第18集团军第129师刘伯承部，此时已由阳泉向垣村、马山村地区前进中。该师第386旅陈赓部之第778团袭击了日军第40旅团侧翼部队，使其行动迟缓；23日晨，又在石门口阻击，歼灭日军三百余人。
长生口、旧关间的日军在飞机支援下，向红土岭迄甘桃驿以东第3军曾万钟部阵地攻击。守军英勇抵抗。入夜后，第3军向大小龙窝及核桃园日军发动全线攻击，激战竟夜，给敌以很大杀伤。第3军伤亡团长一人，士兵六百余人。
24日晨，日军在飞机支援下向守军正面及右翼阵地发动全线攻击。右翼第3军红土岭及以西阵地战斗激烈。第129师第386旅在马山村、锣鼓寨袭击日军，以配合第3军作战。
此时，转隶孙连仲指挥的第41军第122师之第364旅及366旅已达阳泉，奉命在七家峪、马山村、东回镇一带占领阵地，加入右翼作战。日军多次进攻均被第26路军击退。左翼第27路军方面，自20日以来，除第7军第42师阵地遭敌炮击外，并未发生战斗。
黄绍竑认为，娘子关防线已趋于稳定，即于25日电令第27路军开赴忻口作战，遗防由第26路军派一部兵力警械。正当右翼部队调整换防、左翼部队减少之际，日军于25日发动猛攻。左翼部队第3军第7师阵地被日军突破，该师被迫转移至1314高地迄梁家垴之线。
26日，日军继续向守军阵地猛攻。第129师第386旅旅长陈赓率其第772团在日军后方七亘村设伏，击毙敌补给部队三百余人，缴获骡马三百余匹及大量军用物资，但未能阻止日军攻势。日军第40旅团已进至娘子关、新关侧后的柏木井附近，严重威胁娘子关。
黄绍竑在得到阎锡山同意后，下令守军主力后撤至巨城镇、移穰镇一线，并令转赴忻口增援的第14军留置三个团于巨城镇至东南上、下盘石间，以阻止由娘子关西进日军；娘子关仅由第26路军所留少数兵力防守。日军乘势进攻，当日占领了娘子关。