在谈判过程中，由于岸信介政府在中国贸易代表团人数、中国贸易机构在日本悬挂中国国旗等问题上无理纠缠，谈判曾一度中断。为了早日缔结协定，中国方面进行了许多努力。1958年2月26日，中国矿产公司和中国五金进出口公司同日本钢铁代表团签订了长期民间贸易协定，“双方同意，在1958年到1962年的5年内，每方出口金额为1亿英镑”。为了促进协定的早日签订，日本广大人民也开展了声势浩大的活动。“在几十个市、町、村会议上都做出了促进签订协定的决议”，“开展了全民性的签名运动，250个经济团体举行大会，通过决议，热烈要求早日缔结第四次贸易协定”。1958年3月5日，第四次中日民间贸易协定终于签订。
第四次中日民间贸易协定规定：自签字起一年内，各方出口3500万英镑，仍然采取同类物资易货贸易的原则，但将甲乙丙三类简化为甲、乙两类，甲类占40％，乙类占60％。双方同意1958年分别在名古屋、福冈和广州、武汉再次互相举办展览会。协定还就商检、支付、仲裁和重要物资的长期有保证的供应等事项作出了规定。
另外，在备忘录中写明，双方各自取得本国政府同意给予下列待遇：第一，采取适当措施保证安全；第二，给予出入境的方便、海关的优待和以贸易活动为目的的旅行自由；第三，可以使用进行业务所需要的密码电报；第四，有权在其建筑物悬挂本国国旗，机构人数由双方各自根据工作的需要加以决定，机构所属人员及其家属不按指纹。
协定的签订得到中国和广大日本人民特别是中日贸易界人士的热烈欢迎。但是，协定的顺利执行还必须得到双方政府的保证和支持。同年3月7日，陈毅副总理兼外长在会见日本通商使节代表团时，代表中国政府对协定表示欢迎和支持。
可是，日本政府不仅没有给予支持和保证，反而采取了实际上是破坏协定的态度。协定签订的第五天，自民党与外交调查会召开联席会议，在听取日本首席谈判代表池田政之辅汇报后，决定“以删除悬挂国旗权等所谓一系列政治条款作为承认协定的条件”。与此同时，美国对日本政府不断施加压力，台湾当局也对日本政府采取威胁性措施。蒋介石集团“对此项协定提出抗议，中止了3月14 日在台北举行之对日贸易谈判，停止对日采购”。这意味着日本对台湾出口总额的40％有可能被取消。3月17日，台湾当局向日本递交所谓备忘录，其中要求：“①日本政府必须声明不承认中共，以及中共之商务代表不具备公务身份，不给予外交特权；②不得悬挂中共旗帜。”由于岸信介政府敌视新中国的顽固态度及美蒋的压力，4月1日岸信介在给蒋的亲笔信中说：“日中贸易仅限于民间协定，日本政府不予过问，不给予通商代表以特权，不承认中共有悬挂国旗之权。”4月9日，岸信介内阁给日本贸易三团体如下答复：“政府鉴于扩大日中贸易的必要性，将尊重第四次日中民间贸易协定的精神，在我国国内各项法令的范围内，同时根据没有承认政府这个事实，还考虑到目前的国际关系，给予支持和协助，以便达到扩大贸易的目的。”同一天，日本政府官房长官爱知揆一发表谈话，进一步解释说：“政府现在无意承认共产党中国，这对于根据这个民间协定设立的民间商务代表性机构，（政府）无意承认它具有官方的特权地位。但是，关于由民间团体处理这个民间协定的问题，政府将尊重并考虑到我国同中华民国间的关系和其它国际关系，务期不引起商务代表机构的设立可能意味着事实上的承认这样的误会。同时打算在国内各项法令规定的范围内给予支持和协助。”“此外，日本政府认为，因为目前没有承认共产党中国，所以不能承认民间商务机构所谓有权悬挂共产党中国国旗，这是理所当然的事情。”
