位于越秀中路广东省电影公司院内。天文台依山而建，高三层，主体建筑有一层地下室，地面上两层。主体建筑东侧建有折式楼梯可上高三层、平面八角型的天文观测工作室。现在三层的楼梯原来圆形的房顶已经改建成平顶，并加建了楼层。
中山大学天文台是留法天文学博士张云教授提议修建的，早在1926年夏，他就着手筹备中大天文台，并申请在观音山（今越秀山）筹建，但未获批准。后在学校支持下，1927年2月在校内建天文台（现越秀中路广东省电影公司院内《广东科技报》社），1929年3月落成。
这是我国正式命名的天文台（第一座是1872年在上海徐家汇），比南京紫金山天文台的落成（1934年）还早5年，张云亲任台长。
1935年石牌新校落成，翌年又在校内新建一座天文台（今华南农业大学校园内），1937年落成使用，新的天文台规模宏大，是旧天文台的4倍。仪器设备主要从国外购置，有15生（厘米）的赤道仪、6生的子午仪、20生的反射望远镜、15生的折光镜、恒星时钟、太阳时钟、自动雨量计、水银气压计等。
中大天文台位于北纬20多度，而当时世界著名的天文台多数分布在北纬40度以上，40度以下的极少。早在中大天文台在建期间，国际天文联合会就认为中大在广州建天文台，观测适宜，因在广州之西，须到印度Lahone才有其他的天文台。
中大天文台除供教学科研使用外，还努力为社会服务，广州经纬度的首次决定、航空学校天文学的教学等都由中大派员担任。1933年万国经纬测量、1936年到苏联、日本进行日全食观测，中国派出的是中大的学者和技术人员。
中大数学天文系和天文台的建立，为我国培养了大批天文人才，邹仪新、叶叔华就是他们中的杰出代表。邹仪新是张云教授亲自培养的我国第一位女天文学家。张云、邹仪新又培养出叶叔华。
1952年全国高校院系调整，当时中国高校唯一的天文台――中山大学天文学系全体师生和天文台全体员工及仪器设备调整入南京大学。
