关东军的外籍军团大多从事间谍、暗杀等秘密活动，图为关东军间岛特设队。早在抗战爆发前，关东军就一直是日本对外扩张的急先锋。在日本陆军中，关东军战斗力最强，装备最好，有“皇军之花”之称。极盛时，关东军兵力多达70余万。但鲜为人知的是，为了侵略中国、蒙古和苏联等国，关东军中还搜罗了为数不少的外籍士兵为其卖命。除了充当关东军的正规军之外，他们往往从事颠覆活动，进行情报渗透，镇压抗日武装，破坏铁路桥梁，是日本推行所谓“用谋略制造机会”战略的急先锋。
间岛特设队：镇压中朝两国抗日活动的秘密部队
在侵占中国东三省和朝鲜之后，关东军在东北集结重兵，时刻准备南下入侵中国关内，北上入侵苏联。日本长期学习中国古代的军事思想，特别是关东军深谙“以夷制夷”的谋略，他们一方面在占领区内大肆掠夺当地人民财产；另一方面又强行征召被侵略国人民入伍，或收买各国败类，为日本的侵略活动充当炮灰。
从1910年日本正式吞并朝鲜之日起，日本人就开始强征朝鲜人加入日军，根据日本厚生省的统计，二战中，朝籍日军共有24万之多，其中2万多人战死。朝籍日军主要在关东军中服役。例如早期的关东军朝鲜混成旅团，就在日军的命令下，参加了进攻中国抗日名将马占山的“江桥战役”。而驻守中苏边境的关东军江原道大队，因士兵全部来自朝鲜江原道才得此番号。太平洋战争爆发后，这些朝籍士兵又随关东军主力一同被调往太平洋地区与美国作战。
此外，日本还秘密组建了一支由朝鲜籍士兵组成的特殊部队——间岛特设队，专门从事情报、破坏等秘密活动。该部队成立于1938年9月，约有300人。为加强对外籍士兵的控制，关东军要求外籍部队的指挥官必须要由日本人担任。按照这一惯例，间岛特设队队长由日本人担任，下级军官则可吸收朝鲜人参加，但士兵全部是朝鲜人。间岛特设队成立后，专门从事镇压朝鲜的反日斗争，也参与破坏中国东北抗联的抗日行动。日本投降后，这支部队被解散，成员大都回国，其中一些人加入了韩国军队，在朝鲜战争中继续与朝鲜为敌。
浅野部队：日本投降前全部被日军枪杀的白俄匪军
俄国十月革命之后，数万白俄士兵逃入中国。很多白匪军被日本人收买，为日本人效命，其中最有名的是谢苗诺夫匪军和别什果夫部队。
1918年—1919年间，谢苗诺夫便协助日军作战，干涉新生的苏俄政权，失败后又带领部下逃入中国，沦为土匪。在日本的威逼利诱下，谢苗诺夫后来带领1千多人马前往大连投奔日本人，为日本侵略苏联服务。这支匪军的日常支出由日本人负责，谢苗诺夫每个月也能得到1千元左右的津贴。利用日本人提供的电台，谢苗诺夫侦听苏联广播，搜集苏联情报。此外，他还利用自己的影响力招募散落在中国的白匪军，由日本特务训练后，前往苏联大搞颠覆活动。1929年，谢苗诺夫匪军甚至还准备乘宋庆龄访苏之际，刺杀中国“国母”。在日本关东军授意下，谢苗诺夫一伙向满洲里派遣职业杀手，准备在那里完成刺杀行动。幸好张学良等人预先得到了情报，及时派人搜捕杀手，才保证了宋庆龄的安全。
日本关东军在东北豢养的另外一支更为凶残的白俄匪军是别什果夫部队。别什果夫早年追随谢苗诺夫，谢苗诺夫失败后，别什果夫逃窜到中国境内的额尔古纳地区，纠集部众组成了一支土匪军。别什果夫匪军在当地打家劫舍，无恶不作，曾经制造了骇人听闻的额尔古纳惨案。九一八事变后，日本关东军看到了别什果夫一伙的利用价值，拉拢他们为日军服务。
由于关东军认为使用“威力谋略”是战胜苏联的重要手段(日本人眼中的所谓“谋略”，就是指破坏铁路、桥梁、军事设施等的间谍活动)，从1936年开始，日本人着手组建白俄谋略部队，共有三支特种部队，这些部队对外统称为“浅野部队”，其中一支就是驻海拉尔的别什果夫部队。严格来说，别什果夫部队是一支特务部队，经常越境从事爆破、策反、暗杀等活动。别什果夫部队由日军小野少佐指挥，名义上隶属伪军，实际上听命于关东军哈尔滨特务机关。它也是日军最早的非正式情报部队。1942年，关东军将别什果夫部队改编为正规的情报部队，划归关东军情报部直接指挥。但因兵员不足，别什果夫部队只有300人左右，后来又逐渐缩编。到了1945年关东军败亡前夕，人数只剩下180人。
别什果夫部队死心塌地为关东军效力，但最后却死在了日本人的手里，可谓自作自受，罪有应得。1945年8月苏联百万大军闪击关东军，苏军一路摧枯拉朽，眼见日本气数已尽，别什果夫部队的士兵准备暴动，反对日本。别什果夫阳奉阴违，表面上同意暴动，暗地里却报告了日本当局。随后，日本关东军设置伏击圈，全部射杀了别什果夫部队，就连一心邀功的别什果夫也被乱枪打死，正应了那句“自作孽不可活”的古训。至此，作恶多端的关东军白俄军团彻底覆灭了。
矶野部队：计划对外蒙实施特种作战的蒙古铁骑
同样，为了策划侵略外蒙，日本人招收了大批蒙古族骑兵，其中既有伪军“内蒙自治军”，也有关东军秘密组建的对外蒙谋略部队，他们成为关东军入侵外蒙的急先锋。
除此之外，关东军又于1941年9月组建了矶野部队，约有700多人，他们全部为蒙古族骑兵。关东军准备一旦入侵外蒙，就利用这支部队对外蒙实施特种作战。矶野部队一开始归伪满治安部指挥，也称第868部队，但实际上关东军直接指挥。1944年7月，矶野部队被改编为日军正规军，番号为关东军第2游击队。
虽然关东军十分重视这支蒙古骑兵部队，也一直希望在入侵外蒙时发挥作用，但随着战局的发展，不但关东军侵蒙、侵苏计划泡汤，日本最终也走向了灭亡。在1945年苏联红军的毁灭性打击下，矶野部队与日本关东军一起被彻底地消灭。
