1、小队
步兵小队辖一个机枪组（二挺轻机枪）、一个掷弹筒组（二个掷弹筒）和二个步枪组。每挺轻机枪编制四人(指挥官、射手、两名携弹药的副射手)，每具掷弹筒编制两人。小队人数在50到70之间。到1945年，步兵小队仅有一挺轻机枪与一个掷弹筒。
步兵炮小队，两门70mm步兵炮
2、中队
步兵中队辖三个步兵小队，人数在194到250人之间。日军的一个标准的180人的步兵中队包括：一个19人的中队部：中队长，执行官，3个军士，4个卫生员，军官的勤务兵，司号员，8个通信员），3个前述54人的小队。
3、大队
日军一个标准的1100人编制的大队包括：30人的大队部，一个110人的运输中队（大车和骡马），有的大队将所属的运输中队合并到联队里。四个前述的步兵中队（一些只有3个）；一个174人的机枪中队（14人的中队部和3个机枪小队，1个弹药小队），每排4挺重机枪，总数12挺（有的中队只有8 挺）。
4、联队
日军的一个标准的3800人的联队包括一个54人的指挥部；一个121人的运输队（大车和骡马），携带联队部和直属各中队一日份的给养以及可能配厨师的野战厨房；一个81人的弹药小队携带一日份的弹药。
5、旅团
三单位制师团的编制为师团下辖三个步兵联队，联队下辖三个步兵大队与一个步兵炮中队（四门步兵炮）。独立混成旅团辖五个步兵大队与一个炮兵队、通讯队、工兵队、辎重队等，总人数约5000人。步兵大队辖三个步兵中队与一个机枪中队（四挺重机枪）、炮兵队辖一个山炮中队与二个野炮中队。这两种部队都是主要做为守备用途的，同时具有小规模的野战能力。
太平洋战争爆发之后、日军又编组了两旅团制师团。师团下辖两个步兵旅团，旅团辖四个步兵大队、步兵大队辖四个步兵中队与一个机枪中队（八挺重机枪）。同时，日军又出现了独立警备队与独立步兵旅团两种编制。独立步兵旅团的编制与两旅团制师团所辖的步兵旅团相同，人数为5100人。
6、师团
和我军集团军的编制类似，约25000-30000人左右。
日军的师属单位主要有：3个步兵联队，一个野战炮兵联队，一个侦察联队，一个工兵联队，一个运输联队，通讯队。野战炮兵联队编制2322人，有3个688 人的炮兵大队，各装备12门75mm野炮或山炮，只有一些师团将其中一个大队替换成105mm炮。