1931年9月18日，日本在中国东北发起了震惊世界的“九·一八”事变，迅速突破了南满铁路的防线，攻占了沈阳、长春和辽阳等战略重镇。这一系列动作引起了极大的国际关注，同时，日本本土的驻军也紧急增援，迅速壮大了关东军的兵力。从最初的3个师团，到1932年增至6个师团，接下来的几年，关东军的兵力一直维持在5个师团（1933-1936年）。到了1937年，兵力增至7个师团，1938年达到9个师团，1940年更是突破了12个师团的规模。直到日本偷袭珍珠港前，关东军的总兵力飙升至31个师团，总人数高达85万人，堪称“百万关东军”。

随着纳粹德国在1941年对苏联展开全面进攻，关东军迎来了一段相对安宁的时期，日本军部借此机会举行了多次针对苏联的军事演习，气氛紧张。然而，德军在莫斯科附近遭遇重挫，令日本政府对进攻苏联的计划产生深刻警觉，最终决定放弃冒然行动。为此，日本军部特别下令关东军：“避免与苏联发生冲突，保持北方的稳定。”1942年10月，关东军司令部被提升为总司令部，同时新设了两个方面军司令部、装甲军、关东防卫军司令部和第二航空军司令部，全力增强对苏联边界的防御。

1941年12月7日，日本决心南下，发动了袭击美国的太平洋战争。随之而来的，是关东军数十万精锐部队的调动，远赴太平洋战场。这些驻守在中国东北的关东军，为了参与跨洋的战争，不得不为之付出巨大的代价。随着1943年下半年太平洋战场的形势恶化，日本逐步从关东军中抽调兵力，希望这些“精锐之师”能够改变战局。到1945年1月，日本更是抽调了13个师团以及一支高度机械化的特设常备兵团，从关东军调往太平洋战场，试图加强岛屿防线。然而，面对美国海空军的强力攻击，这些兵力未能逆转战局，反而成为了战场上的牺牲品。

随着美军在1945年4月初攻占冲绳岛，日本本土的防卫形势愈发严峻。为了应对可能的入侵，关东军再次抽调了7个师团以及大量战略物资，投入到保卫日本本土的战斗中。到此时，关东军的精锐部队已几乎被抽调殆尽，整体战斗力远不如当年。然而，随着法西斯德国即将投降，苏军的东进迫在眉睫，日本不得不紧急补充关东军的兵力。于是，关东军开始重新征集约25万名退伍军人及侨民，组成了8个师团、7个混成旅团、1个坦克兵团和5个炮兵联队，兵力一度恢复到24个师团、约70万人的规模。

然而，尽管兵力恢复，但这些新组建的部队无论是在武器装备还是战斗素质上，与战前的精锐部队相比，已经有天壤之别。到了1945年8月8日，苏联正式对日本宣战，由华西列夫斯基元帅指挥的150万苏军在中苏边境展开了猛烈攻势，关东军的防线瞬间崩溃。尽管日本天皇于8月15日公开宣布无条件投降，关东军依然坚称未收到停战命令，继续顽强抵抗，但他们的抵抗终究无法挽回局势。

1945年8月19日中午，关东军最后一任总司令山田乙三大将正式宣布投降，并将象征指挥权的军刀交给了前来谈判的苏军代表。至此，关东军的59万残余官兵彻底放下武器，关东军集团最终宣告解散，历史的洪流将这支曾经不可一世的军队彻底吞噬。