“九一八事变”之前，日本在中国的军队主要有两支。一是常驻东北的关东军，一是常驻华北的“中国驻屯军”。此外，在上海也存在着日本的“海军陆战队”。这里主要说一下关东军和华北驻屯军的由来。
先说关东军常驻东北
此事的由来，可以追溯到晚清的日俄战争。日俄战争虽然发生于1904 -1905年，但沙俄对东北的侵略在1900年的“八国联军侵华”中即已启动。当时，俄国以替清廷维持秩序和保护中东铁路为借口，出兵占领中国东北，继而拒不撤军。沙皇尼古拉二世的对华政策很明确：“中国在衰亡、崩溃，俄国应当利用这一时机，攫取尽可能大的一块”①。这尽可能大的一块，就是中国东北。
沙俄当时采取了两手策略。一是以武力侵占造就既成事实；二是抢在列强之前向流亡西安的慈禧抛出橄榄枝，意图换取慈禧对侵略事实的承认。清廷东北防务空虚，第一条策略执行得非常“成功”。但东北是清廷的“发祥之地”，是慈禧与朝臣无论如何也不敢轻言放弃的所在，故沙俄的第二条策略没有什么效果。
1901年3月，中俄谈判破裂。1902年4月，沙俄因在国际上孤立无援，不得不与清廷签订《交收东三省条约》，承诺俄军在一年半内分三期从东北撤出。1903年，俄国出尔反尔拒绝依照条约撤军，且向清廷提出了所谓的“七项撤军新条件”，包括其他列强势力不能进入东北、沙俄须参与东北的行政管理等。于是，1903-1904年间，中国国内掀起了声势浩大的“拒俄运动”。清廷没有实力与沙俄一对一周旋，只好选择将问题诉诸列强，也就是将东北问题国际化。遂形成了日美英中四国与沙俄对峙的局面。
“和平独霸东北”的计划破产，俄国开始考虑用战争来解决问题。但战争的对象并非清廷。东北问题国际化之后，沙俄即无视清廷的存在，不再与之谈判东北问题，而是将谈判对象换成同样对东北存有强烈吞并欲望的日本。由此也可见清廷国力衰微到了何种被人轻视的程度。日俄谈判破裂后，1904年2月6日，日本与俄国断绝外交关系；8日，日本海军突袭了旅顺港内的俄舰，日俄战争爆发。清廷在战争中选择了“局外中立”——沙俄、日本与英美各国均不支持清军参战，清廷也无力冒险参战——且将辽河以西划为“局外境”，也就是非战区；将辽河以东俄军占据的地区划为“局内之地”，也就是双方的战场所在。②
战争最后以日本的胜利告终。通过此战，日本自俄国手中夺得了“关东州”租借地（约3264平方公里）与“满铁”附属地（约430平方公里）。俄国取得“关东州”租借地，是依据1898年与李鸿章签订的《旅大租地条约》；取得铁路沿线附属地特权，是依据1896年与李鸿章签订的《中俄密约》。
俄日两国签订《朴茨茅斯条约》后，将俄国在上述“租界”与“路界”之内享有的权益，包括行政管理权、警察权与驻兵权，全部转移给了日本。日本再胁迫中方与之签订《中日满洲善后条约》及附属协定，承认上述特权的转让。根据上述条约，日本有权在南满铁路沿线每公里驻扎15名士兵担任守备，总计可驻扎14419名。这就是关东军的前身与雏形。③
自清末至九一八事变，关东军对中国政局的干预力度，日趋强大。这种干预能够生效，究其根源，仍在于中国国力衰微，政局四分五裂，给了关东军游走其间的莫大空间；这种游走，又进一步加剧了中国的分裂。④至九一八事变前夕，驻扎在中国东北的关东军，总兵力仍约为1.4万余人。
图：1905年，日俄签订《朴茨茅斯条约》
再来说常驻华北的“中国驻屯军”
华北“中国驻屯军”的存在，也与1900年的“八国联军侵华”有关。1901年的《辛丑条约》里，有这样一项规定：
“大清国国家允定，各国使馆界，以为专允住用之处，并由使馆管理，中国民人，概不准在界内居住，亦可自行防守。”“中国国家应允，诸国分应自主，长留兵队，分保使馆。”“中国国家应允，由诸国分应主办，会同酌定数处，留兵驻守，以保京师至海通道无断绝之虞。今诸国驻守之处系：黄村、郎(廊)坊、杨村、天津、军粮城、塘沽、芦台、唐山、滦州、昌黎、秦皇岛、山海关。”⑤
据此，各国集体取得了在中国境内驻扎军队的特权。日本早在《辛丑条约》签字前两个月，就宣布组建了“清国驻屯军”，设司令部于天津，下属六个步兵大队，一个野战炮兵大队，一个野战兵医院，一个军乐队，一个守备司令部，一个骑兵中队，一个工兵中队，一个宪兵队，共计2600人。主要分布在北京的使馆和自北京至山海关沿线的战略要地，其中天津1400人，滦州300人，昌黎300人，山海关与秦皇岛300人，另在塘沽驻有一支小部队。
因清廷在《辛丑条约》一事上只求速和，留下了许多隐患。没有将各国在华的驻军人数讨论明白写入条约，就是其中之一。稍后，列强自我协商达成了一份共识，“以八千二百人为限，每国不得超过二千人”。⑥稍后，日本在华北的驻军缩减为1650人。之后又多次缩减，到1911年6月，已减至530人。
