1946年2月6日，关于中国战区日人撤退的方案，经盟军总部中国军事委员会及中国陆军总司令部协商，做出了如下规定：日人从中国内地到港口的手续由中国陆军总司令部负责，中国战区美军司令部的任务是为中国政府担任顾问，并为中国陆军总司令部及中国政府与美国第七舰队、盟军总部间维持联系。美国第七舰队利用美国海军船只和盟军总部的日本运输队负责海运日人返国，中国战区美军司令部有决定日人自中国各港口撤退先后之权。
美国迅速遣返在华日俘与日侨的政策与国民政府的原定计划存在着一定的矛盾。国民党考虑到战后中国复兴的需要，国防最高委员会在《处理日本问题意见书》中，有一个非常重要的计划：“征用日本在华战俘，以加速收复区工矿业及交通复员之进行。”为此还专门在1945年9月30日颁布了《中国境内日籍员工暂行征用规则》，准备采取志愿留用和征用的办法，让部分拥有专门技术的日本战俘和侨民留在中国。据日本战后善后总联络部统计，到1946年6月底，在北平、保定、南京、武汉、广州、海南等地征用和留用的日俘人数有829人，日侨（包括家属）3.6万人。
美国方面对中国征用和留用日本战俘和侨民的举措明确表示了反对意见，美国国务卿贝尔纳斯早在1946年2月7日在致魏德迈的电文中称：“国务院认为在中国滞留日包括技术人员在内的日本人是极其令人不快的，而且也不符合美国根除日本在华影响的政策。”
1946年7月2日，美国代理国务卿艾奇逊在给美国驻华使馆的电报中再次重申：日本平民如果留在中国，可能会继续从事日本威权和影响在中国的复活，特别是在日本具有支配影响地位的台湾、东北和华北，最简单的根除这种危险的做法是遣返所有在华的日本人。美国的政策仍然是，为符合波茨坦公告，为了根除日本在中国的危险，所有在中国的日本人应当尽速被遣返。
到1946年8月，仍有6737人在华北滞留，其中包括战犯、技术人员和其侨眷。美国方面力促中国将所余日人遣送回国，为此，美国国务院继续与国民政府外交部交涉，希望自愿返国者应允其回国，确因技能需要留下，也要了解其过去经历，确无危害中国和平与安全的前提下办理。而且作为一项总的原则，日本军人的遣返要优先于平民。
美国对在东北的日人的遣返问题表现出了同样的关心，其目的仍然是与其战后初期根除日本在华势力的既定政策相关。事实上对于如何处置在东北的日本军人，早在1945年12月21日，苏联在给美国国务卿贝尔纳斯的备忘录中就表示，苏联方面将在既定的时间内解除所有在中国东北的日本军队的武装，并将其作为战俘撤至苏联境内。美国方面对此并没有表现出不同的意见。由于苏联方面没有明确表示如何对待在中国东北的平民的问题，因此美国方面对遣返东北日人的问题上，便将注意力转到了在中国东北的日本侨民，马歇尔并就此与苏联驻华使馆多次协商，美国还多次派出船只接运东北的日本侨民。到1946年9月6日，从中国东北撤回的日人为682629人。