该师前身为国民政府军事委员会直属战车营(营长彭克定)。1936年1月,该营改归交辎学校指挥。1937年3月,该营与交通兵第2团装甲汽车队改编为装甲兵团(团长杜聿明),由军政部直接指挥。
1938年1月,该团于湖南湘潭扩编为第200师(五团制,20000余人),以原团长杜聿明担任该师首任师长。该师为我国第一个机械化师,由军事委员会直接指挥。4月,该师在上高与第20军团开展联合军事演习,以测试对机械化部队的运用。5月,该师抽调战车营、工兵营、装甲汽车队、高射炮队、摩托搜索队、战防炮营、步兵营各一,组成突击军第1纵队,由副师长邱清泉率领北上开赴兰封与日军作战。是月下旬,该纵队在贵李寨、罗王寨、三义寨等地初露锋芒,配合友军击退日军土肥原师团,收复圈头水口、三义寨等地。6月,该纵队转移开封。既而移驻郑州。9月在信阳配合友军作战。此后该部开赴陕西由第1军指挥,脱离第200师建制。11月,该师扩编为新编第11军。师长杜聿明升任新11军副军长,以第89师副师长戴安澜继任师长。改编后该师开赴广西全州整训。
1939年3月,该师开赴广西界首参加全国军队校阅,第5军名列第一,该师为第5军第二名。9月,该师拟开赴湖南衡山,拟参加第一次长沙会战。该师抵达后会战已经结束,乃就地待命并接受第9战区司令长官检阅。11月,该师作为第二期整训部队,接受第9战区前敌总司令罗卓英督练。是月中旬,日军在广西钦州湾登陆,该师紧急车运南宁,配合友军第135师协同守备南宁城郊。12月中旬,日军第5师团骑兵第5联队、第21联队一部占领昆仑关,该师奉命集结于三塘,参与对昆仑关的反击作战。当荣誉第1师因伤亡惨重退出战场后,该师接替任务,在坦克的协同下继续攻击昆仑关。是月下旬,该师将日军分割包围,并断绝日军补给线。随后在友军荣1师、新22师、第159师的配合下对昆仑关发起总攻,与日军三次争夺昆仑关,终于在1939年的最后一天完全收复昆仑关。是役,第600团团长邵一之在攻击二塘附近日军阵地时不幸阵亡。
1940年1月初,该师在昆仑关经过短暂休整后,继续加入对昆仑关附近之八塘的进攻。但是因日军增加守备力量,该师经过7天的连续冲锋,最后因部队损失惨重,被迫将防务交由第36军接替,该师后撤整补。4月,该师因在昆仑关的所受损失过重(兵员损失近三分之二),开赴湖南祁阳接受新兵开始长时期的整补。
1941年6月,该师移驻贵州安顺。12月,移防云南保山。
1942年3月初,该师附军属骑兵团、工兵一个营入缅支持英军作战,接替英军在同古(又称东吁)的防务。是月下旬,该师在同古以北与日军第55师团发生战斗。经过三昼夜激战,数次击退日军第55师团112联队的进攻,但是自身也为日军第112联队包围,联络补给均告中断。在友军新22师、第96师解围失败后,该师最终奉命突围,其余奉命掩护撤退之部队最后皆奋战殉国。第200师在同古坚守12天,迫使日军第112联队停止进攻,等待第56师团的增援。同时,该师成功掩护友军英缅军第1师一部氏凳灶逃出日军包围圈。4月下旬,该师奉命进攻东枝,经3天激战,击退日军第113联队,收复东枝。随后该师向雷列姆以北攻击前进。不久东枝再次为日军攻克,孟瑙也随之失陷。第200师此时奉命以一部攻击腊戎当面之日军,并以一部固守腊戎,掩护第5军、第6军向我国云南撤退。5月上旬,该师向八莫、南坎撤退,途中与第5军补训处回合,并沿途收容第6军、第66军散兵1000余人。在该师穿越昔卜、摩谷公路时,遭到日军第56师团伏击,部队被打散,团长柳树人阵亡,师长戴安澜在负重伤后为参谋长周之再救出。6月中旬,该师残部经过艰难的撤退终于抵达云南永平(第200师入缅之役损失5000余人)。师长戴安澜在撤退途中因伤重无法救治而亡,以副师长高吉人继任师长。
该师在遭受昆仑关、缅甸两次重创后,骨干大量损失,歼扮此后该师移驻昆明近郊——马街,开始了长期编练,部队粗圆官兵扩编至12000余人。
1944年8月,为策应驻印军对日军的反攻,该师开赴保山集结,随后康复前线协助友军作战。9月初,该师加入对于龙陵的战斗。由于该师初到战场,未明前线形势,陡遭日军反击,其先行加入战斗的先头团第599团被日军迅速击溃,其中两个营损失惨重,营长皆阵亡。随后该团残部被配置在5412高地,奉命以残破部队对日军发起反击,又遭日军挫败。是月中旬,该师第600团、第598团先后抵达,旋即对日军发起新一轮进攻,在炮兵的掩护下先后夺取三个高地,并收复龙陵老城和文笔坡。随后该师奉命固守阵地,并补充第599团。10月中旬,该师在得到第5军军属工兵营、炮兵营、通讯营、战防炮营的支援下,开始向非吹坡、老龙潭等地攻击前进。11月初,该师在相继收复老龙潭、石老虎、老粮台后向芒市迂回。于是月中旬收复芒市后在蚂蝗山遭到日军反击,在击退日军的进攻后该师乘胜追击,并于12月初收复遮放后继续向前攻击,陆续收复双坡、拉隆、邦打、拱撒、河边寨。
1945年1月中旬,该师以奇袭的方式攻占日军重要据点回龙山。随后该师配合友军收复象鼻山、腰子山、冷山等日军据点。畹町为友军第2军收复后,该师回驻昆明市郊。3月,该师换装美械。师长高吉人升任第5军副军长,以第49师师长罗友伦继任师长。4月,师长罗友伦调任第207师师长,以美国战车学校毕业生廖慷继任师长。8月,日本宣布无条件投降,该师移驻罗次。9月,昆明防守司令杜聿明奉命以武力解决龙云所部,该师即在驻地以宴请滇军炮兵团为名,命临时受该师节制的第96师287团将滇军炮兵团缴械。第600团团长董瀚因空难殉职。10月杜聿明调任东北保安司令长官,该师抽调第598团作为司令长官部特务团脱离建制。该师另抽调所属第599团、第600团各一部作为基干新编第598团。
1946年3月,第5军各部开赴武汉,该师被留驻云南开远,负责滇南地区的守备任务,暂由昆明防守司令部节制。10月师长廖慷调任第45师师长,以副师长熊笑三继任师长。12月,该师北开武汉,归还第5军建制,负责清丰至濮阳之间公路沿线的护路任务。
1947年1月,该师移防徐州。4月,奉命向梁山出击。当梁山为友军第96师攻克后,该师作为第5军左路部队继续追击撤退的解放军,但是却被解放军阻击部队牢牢牵制,无法前进。直到解放军主力撤过黄河后,该师才得以前行,并以所属第600团渡河追击解放军。5月,该师转入鲁中,进驻新泰,旋向羊流店攻击前进,既而协同友军第45师攻占莱芜,再向博山攻击前进。6月下旬,该师奉命掩护友军整编第11师左后方,向解放军沂蒙山区进攻。7月,该师向泗水攻击前进,既而后方发现解放军游击部队,逐回驻博山清剿。是月下旬,友军整编第84师一部在汶上为解放军围攻,该师奉命并向济宁发动攻击,以配合第45师前往解围。8月下旬,该师以所属第600团担任主攻夺取济宁后向西追击解放军,在厉家岗、徐家庄、沈官屯与解放军交战10余次,接连获胜。随后从白浮图出发,迅速抵达郭庄向解放军发动猛攻,成功为整84师解围。9月,该师在袁口整编为第200旅,原师长熊笑三改任旅长。整编后该旅又向丁里长发动攻击,在打退解放军的反击后,该旅即乘胜攻占丁里长。11月,该旅驻防于鲁西地区开始休整。
1948年4月,旅长熊笑三升任整编第5师副师长,以整编第5军副参谋长兼交通辎重兵团团长张毓英继任旅长。5月,解放军攻击民权,该旅奉命开拔越陇海路进入豫东协助友军作战。6月,解放军攻击定陶,该旅又回援山东。入鲁后该旅于曹县集结,随后向马楼发起攻击。由于解放军利用地形构筑据点、鹿砦,该旅往往是以惨重代价才得攻取一、二据点,整200旅在此与解放军胶着7天才攻克马楼继续进击。是月中旬,开封为解放军攻克,该旅奉命向西南迂回,企图截击由开封撤退之解放军,但是未能完成任务。6月下旬,该旅奉命进攻杞县以南之桃林岗,由于旅长张毓英将兵力逐次使用,遭受解放军猛烈还击,经一天攻击,所部伤亡惨重,仍未能前进一步。旅长张毓英当即被撤职查办,以整编第96旅副旅长周朗继任旅长。同时将该旅改为预备队使用。7月初,区寿年兵团为解放军歼灭后,该旅奉命除留第600团牵制解放军外,配合友军向解放军迂回攻击,随后负责牵制的第600团与迂回部队分进合击,终于将解放军击退。9月,济南告急,该师由商邱救援,但是部队未到,济南已告失守,逐回驻原防。不久该旅恢复第200师番号,原旅长周朗改任师长。11月初,该师在向黄口移动时,其所属一个营被解放军包围,经友军第45师解救脱离危险。是月中旬,该师集结与徐州。随后为解救友军第7兵团,沿林佟山麓攻击前进。不久该师在林佟山山腰遭到解放军顽强阻击,经两天战斗始突破阻击阵地继续东进。是月下旬,第7兵团被歼,该师回防徐州。当第12兵团被围后,该师开始撤守徐州,不料在至陈官庄附近时被解放军包围。团长刘屏玉在指挥部队集结时阵亡。该师在占领张庙堂阵地后,即以此为核心阵地固守。
1949年1月9日,解放军对陈官庄的国军发动总攻击,该师与军部的通信被迅速切断。随后在通信兵的联络下得知军部下达了“停止战斗,自行设法”的命令后,由师长周朗率领开始突围。但是不久之后即被解放军包围歼灭,团长刘明德阵亡;师长周朗、团长蔡香清在卫兵的保护下侥幸逃出包围圈,但是旋即为地方民兵俘虏;副师长麻心全化装脱逃。该师另有一部500余人由团长熊道存率领,逃至萧水被击溃,熊道存被俘。