忻口战役和娘子关战役结束后，太原的北大门和东大门失守，太原彻底暴露在日军兵锋之下。
作为山西的土皇帝，阎锡山心里非常不愿意放弃太原逃跑，他还想凭借着手中剩余的兵力坚守太原。但是忻口和娘子关战役的失败，整个第二战区笼罩在失败的阴影之中，全军上下士气低迷，恐日情绪日益渐增。明眼人都看得出来，太原城沦陷已经是板上钉钉，但是却没有人敢在阎锡山面前说出这句话。
忻口撤退的同一天，阎锡山在太原召开军事会议，商讨守卫太原的问题。会议上，中央军、西北军、川军将领都认为太原已是死地，坚守太原只会白白损耗兵力，不利于后续持久抗战，不愿意承担守城任务。阎锡山见他们如此行径，气得七窍生烟。他虽然是第二战区司令长官，却拿这些将领没有任何办法，如今晋绥军各部伤亡惨重，山西还要靠这些人来守。
此时晋绥军各将领虽然也认为太原沦陷不可避免，但作为山西本土人，丢土而逃他们内心也不愿意。到谁都清楚，留下来守太原那基本上是九死一生，因此参会的晋绥军将领也全都保持沉默，不发一言。
此时阎锡山看着参会众将领全都低头沉默不语，气得七窍生烟，愤恨地发问：“值此太原危急时刻，难道就没有一个人愿意出来力挽狂澜吗？诸位难道就忍心眼睁睁看着太原沦入日寇之手，太原百姓被日寇铁蹄践踏吗？”然而阎锡山的话并没有激起在场将领的热血，场面一下冷了下来。
看着阎锡山一脸焦急却又无奈的样子，第7集团军司令傅作义再也不愿沉默下去，当即起身怒拍桌子，大义凛然地说道：“既然在场诸位都不愿意留下，身为山西人，我是无法拱手把太原让给日本人，阎长官，我愿意留下承担守卫太原的任务。”
在场将领看到傅作义起身接下了守卫太原的任务，全都内心松了一口气，纷纷表示支持傅作义担任太原守备司令。
阎锡山看着众人，内心极度厌恶，同时对于傅作义的挺身而出却是深感欣慰。于是阎锡山当场任命傅作义为太原守备司令，统一指挥晋绥军各部保卫太原。在会议上，阎锡山指示傅作义利用太原周边既设阵地。实行依城野战，节节抵抗，阻击日军，消耗其兵力，待后续增援兵团到达后，再实行反攻，内外夹击以聚歼日军。随后阎锡山委任卫立煌为第二战区前敌总司令，指挥第二战区除第18集团军、第6集团军以外所有部队，并将第二战区长官部指挥所移驻到交城。
11月4日，阎锡山率领第二战区长官部撤离太原，临走时阎锡山看着身后的太原城，万般不舍。他紧握前来送别的傅作义双手，叮嘱道：“一定要守住太原，不敢丢太原呐。”
11月5日夜，八路军驻晋办事处最后一批人撤离太原。
就在阎锡山撤离太原的同一天，忻口日军逼近石岭关。鉴于此地原预设阵地已难以立足，卫立煌遂下令部队转移至太原北郊构筑防线。与此同时，由晋东撤下来的部队，除了27路军及17师、27师撤向太原附近外，其余部队均遭到日军截击，被迫向榆次西南撤退。
以35军为主的守城部队在4日、5日两天全部进入太原城内。随后傅作义下令封闭全城，构筑加强城防工事。根据傅作义的部署，35军211、218两个旅和正太路护军一个团守备东、北两面城墙；独立第1旅守备西城；213旅守备南城。傅作义将城内大部分炮兵分配给守城各旅，将未分配任务的部队全部编为预备队，策应各方。
11月6日，由忻口南下和沿正太路西进的日军相继击破太原外围阵地，抵达太原城郊。卫立煌抽调独立第8旅、独立第7旅、71师增援太原城，但遭到日军阻击，除独立第8旅一个营渡过汾河进入太原外，其余各部均被迫南撤。战至此时，太原周边部队已全部被日军击退，太原城成为了一座孤城。
日军从东、北、西三面围城，以飞机、大炮猛攻太原城墙，并派出飞机向城内洒下传单，要求守军投降。
7日晨，日军第109师团第31旅团占领太原城南15公里的小店镇。至此，太原城彻底陷入日军包围之中。
同日，东、北两面日军向太原城发起猛攻，并派出飞机不断轰炸城内。整整一个白天，枪炮声不断，城外各部阵地相继被日军占领，守军尽数退入城内防守。晚上八点，日军炮击力度加大，城内一片混乱，第35军副军长命人搬开沙袋，从南门仓惶而逃，严重影响守军士气。傅作义不得已之下，亲自巡城，一面鼓舞士气，一面组织兵力重新部署防线。此时，守军各部伤亡惨重，城内兵力仅剩7个营又4个连，战斗人员仅为2000人左右。
11月8日上午，日军第5师团集中炮火，将太原城东、北两面城墙轰塌多处，其步兵冲进城内。此时太原城内因为日军飞机轰炸，全城燃起大火，烈焰冲天。
傅作义见此，遂组织兵力与日军展开巷战，同时命令城墙守军全力封堵被炸塌的缺口。战至下午4点，城墙缺口除东北角外全被堵住，但日军千余人却冲进了城内。
黄昏后，天色渐黑，日军乘机增兵，借助夜色突袭，杀入城内，同时以一部兵力空降城中大校场，四处袭击。
守军各部伤亡惨重，阵地不断失守。晚上7点，日军攻到了总司令部。无兵可用的傅作义只得组织司令部人员和特务连加入战斗，抵挡日军。
激战两个小时，日军越聚越多，傅作义深感大势已去，无力挽回。于是在晚上9点，傅作义下令守军各部由南门突围，撤出太原。
守军各部接到命令后，迅速突出包围，经汾河桥冲至汾河西岸，向古交镇方向撤退。至此，太原城沦陷。