据古藉记载，远在秦汉时代，我国已经有了大规模的远洋航海通商和渔业生产活动，南海已成为当时重要的海上航路。从此，我国人民频繁航行于南海之上，穿越南海诸岛，最早发现了这些岛屿礁滩，并予以命名。
东汉班固（公元32—92）撰写的《汉书·地理志》中已有汉武帝派遣使臣从南海航行海外各国的记载。书中完整描述了自广东徐闻出发，经南海，历数国，远至今日印度东南部的康那弗伦和斯里兰卡等国的航行路线。
三国时期，公元226年，东吴孙权派朱应、康泰出访东南亚各国，船队航经南海到达扶南（今柬埔寨）等国，与这些国家建立了友好、关系。康泰回国后根据经历所写成的《扶南传》，对南海诸岛的地理情况作了准确的记载。
唐宋时期，社会经济繁荣，对外交往增多，特别是宋初指南针应用于航海以后，在南海的航行和生产更趋频繁。当时对南海的航路以及岛屿的位置、名称等都已有较详细的考察和记载。南宋周去非在《岭南代答》（1178年成书）中载：“…东大洋海，有长沙、石塘数万里”，此中的“长沙”、石塘”指的就是南海诸岛。长沙是以沙岛为主的珊瑚岛，石塘是以环礁为主的珊瑚礁。赵汝适在多方调查询问并参考《岭南代答》的基础上撰写的《诸蕃志》（1225年成书）中指出：“贞元五年（公元789年）以琼为督府，今因之。…至吉阳（今三亚市），乃海之极，亡复陆涂。外有州，曰乌里，曰苏吉浪，南对占城，西望真腊，东则千里长沙、万里石床，渺茫元际，天水一色”，这里不但指出了千里长沙、万里石床是我国的南海诸岛，而且也说明，早在唐代已经将西南中沙群岛划归海南岛的振州（宋时改为吉阳军）管辖。
明清时期，我国许多图、藉、方志对南海诸岛的记载已经不胜枚举。从地图方面来说，明代郑和“七下西洋”长期航行南海，绘有《郑和航海图》，后载入茅元仪《武备志》。该图标出了石星石塘、万生石塘屿、石塘等岛群名称和相对位置。及至清代陈伦炯《海国闻见录》中的附图《四海总图》，已经明确标绘有四大群岛的地名和位置。当时称东沙群岛为“气沙头”，西沙群岛为“七洲洋”，南沙群岛为“石塘”，中沙群岛为“长沙”。后来，清政府在开展大规模全国地图测量的基础上，编绘了多种地图。在1716年的《大清中外天下全图》、1724年的《清直省分图》、1767年的在《大清万年一统天下全图》、1800年的《清绘府州县厅总图》和1818年的《大清一统天下全图》等等这些官方舆图中，都在海南岛的东南方绘有南海诸岛，列入中国疆域版图。
从古藉方面来说，郑和“七下西洋”的随从人员费信著《星槎星览》、马次著《瀛涯胜览》、巩珍著《西洋番国志》等书，其中对南海及南海诸岛的记载为我们留下了宝贵的资料。当时出现的航海著作，如1527年顾蚧的《海槎余录》、黄衷的《海语》等书，对南海航行、岛礁分布及地理特征都有详细的描述。当时出现的海防著作，无不把南海诸岛作为我国海防的“门户”和“天堑”。如十九世纪三十年代的《海防辑要》一书，就把西沙群岛等岛屿列为我国的海防区域。
方志方面来说，明清两代是方志鼎盛的时代，由官方修纂的《广东通志》、《琼州府志》、《万州志》等等许多地方志书，都辑录有西南中沙群岛的资料，列为海南岛的附属岛屿。其《广东通志》中就有：明武宗正德七年（公元1512年）“立海防营于万州”的记载。还可以正德《琼台志》中看出当时已把西沙、南沙群岛作为我国的海防区域。
我国人民开发西南中沙群岛的历史渊源流长。据考古发现，在西沙群岛的甘泉岛有一处唐宋遗址，出土一批唐宋瓷器、铁锅残片以及其他生产、生活用品。这无可辩驳地证明，至少从唐宋时期开始，我国人民就已经在西沙群岛居住和生产，早已经是西南中沙群岛的主人。及至明清时代，我国人民在各岛屿上保留了大量遗迹。包括在西沙群岛的永兴岛、金银岛、珊瑚岛、东岛、北岛等岛礁相继出土一大批明代和清代的铜钱、瓷器及其他生活用品；还包括在西沙群岛的各主要岛屿上都发现我国渔民所建的古庙遗存。仅赵述岛、北岛、南岛、永兴岛、东岛、琛航岛、广金岛、珊瑚岛、甘泉岛就有古庙十四座。在南沙群岛的太平岛、中业岛、南威岛、南钥岛、西月岛等也都发现有古庙遗存。这些庙字有些是明代建造的，大部分是清代所建。同时，在西沙群岛和南沙群岛的一些岛礁上，还挖掘有多块清代和民国时期的石碑。这些石碑多为当时莅岛视察的政府或军队要员所立的纪念碑。
我国人民开发西南中沙群岛的历史还可以从世代传抄的《更路薄》中得到有力的证明。《更路薄》是我国沿海渔民的航海针经书。据考证，现存的手抄本《更路薄》产生于清康熙未年，可追溯至明代。它详细地记录了西南中沙群岛的岛礁名称、准确位置和航行针位（航向）、更数（距离）。如琼海渔民苏德柳、卢烘兰等等的手抄本《更路薄》，具体标明了航行到西沙、南沙、中沙各岛屿的主要航线和岛礁特征，这是我国人民开发西南中沙群岛的最直接的历史见证。
我国政府最早对这些岛礁进行管辖、行使主权。对西南中沙群岛行政管辖和行使主权的历史可以追溯到很久以前，至迟在唐宋时期，南海诸岛就在我国政府的有效管辖之下：
两汉时，西汉武帝元封元年（公元110年），海南始置珠崖、儋耳郡，标志着中央政权对海南岛及南海诸岛直接统治的开始。此后，随着生产发展和航海技术的进步，我国人民经常航行于南海之上，并在西沙群岛和南沙群岛一带居住和生产。南海诸岛与祖国大陆的关系越来越密切，历代统治者对南海和南海诸岛的认识不断加深。
唐初，海南岛环岛已建置有北部的崖州、西部的儋州、南部的振州（今三亚市），振州，前身为临振县，隋朝大业三年（公元607年），增设临振郡，唐高祖武德五年（公元622年）改郡为州，时号振州。《旧唐书·地理志》（岭南道：振州）中已有振州管辖海南岛南部海域的记载。自此以后大陆中原王朝对南海诸岛的行政管辖从未中断过。唐开元十二年（公元724年），由僧一行等人主持的子午线测量，南至范围达南海及南海诸岛，并曾在南海上观测有关星座进行测理。这是行使主权之举。
宋代，唐时位于岛北的崖州南移，改振州为崖州，后易名为朱崖军，继后又改为吉阳军。由吉阳军直接管辖南海诸岛。当时，北宋朝廷首命水师出巡至“九乳螺州”（即今西沙群岛），这是我海军最早的巡海活动。
元朝，元世祖至元十五年（公元1278年），将海南的琼州改为琼州路。仍由吉阳军管辖南海诸岛。是时，宋代的军制多已改州，唯四川行省的长宁军和湖广行省的南宁（今儋州市）、万安（今万宁县）、吉阳（今三亚市）三军未改，是以特殊行政制度管理边疆的方法，可见其统治者对海防边疆的重视。元世祖忽必烈还亲派著名天文学家郭守敬到西沙群岛进行天文测，表明主权归属元代王朝而无疑。
明初，海南设立统一的地方行政管理机构——琼州府，隶属广东。恢复崖州、儋州、万州。将南海诸岛划归琼州府领属的万州管辖。并明确区分为“南澳气”、“七洲洋”、“万里长沙”、“万里石塘”等四大岛群（即今的东沙、西沙、中沙、南沙群岛）。
清朝，前期和中期基本沿袭明制不变。至清明后期，东沙群岛归属惠州管辖。西沙群岛、南沙群岛、中沙群岛仍由海南的万州管辖。自此南海诸岛分属于不同的两个州级地方行政机构管辖。
民国时期，1911年辛亥革命后，广东省政府宣布把西沙群岛划归海南崖县（今三亚市）管辖。1921年，南方军政府又重申了这一政令。第二次世界大战结束后，根据1947年中英美三国的《开罗宣言》和1945年7月《波茨坦公告》的精神，中国政府指派高级专员，前往西沙群岛进行接收，在岛上举行接收仪式，重竖主权碑；并在南沙群岛中最大的岛屿——太平岛驻军队和设立渔民服务站。
中华人民共和国成立后，我国政府继续对西南中沙群岛及其海域行使主权。1959年3月24日在西沙群岛的永兴岛设置“西沙群岛、南沙群岛、中沙群岛办事处”。自此政府行政机构开始驻岛行使主权，组织开发建设工作，加强对西南中沙群岛岛礁及其附近海域和行政管辖。1969年3月4日改称“广东省西沙、中沙、南沙群岛革命委员会”。1981年10月22日经国务院批准在永兴岛设立“西沙群岛、南沙群岛、中沙群岛办事处”，作为广东省人民政府的派出相当于县级的办事机构，由海南行政区公署直接领导。1988年海南建省，海南省管辖范围包括海南岛内19个市、县和西沙群岛、南沙群岛、中沙群岛的岛礁及其海域。1988年9月19日更名为“海南省西沙群岛、南沙群岛、中沙群岛办事处”。目前，仍沿袭相当于县一级派出机构的行政设置体制，办事处仍驻西沙群岛永兴岛。
