1924年6月21日，广东大学举行校长就职和学生毕业典礼，孙中山委托总参议胡汉民代表大元帅在会上宣读了训词：“学海汪洋，毓仁作圣，大学毕业，此其发轫。植基既固，建业立名，登峰造极，有志竟成。为社会福，为邦家光，勖哉诸君，努力自强。”孙中山亲笔题写校训：“博学、审问、慎思、明辨 、笃行”。
国立广东大学定于1924年9月15日正式上课。当时，学校并没有举行开学典礼与成立典礼。后又经校务会议复议，将开学典礼及成立典礼日定于1924年11月11日这一日，也就成为国立广东大学的校庆日。
1925年，“广东公立医科大学”“广东公立工业专门学校”并入。
1925年3月12日，孙中山逝世后，廖仲恺提议将广东大学更名为中山大学，10月获国民政府批准。同年增设医科。其后，广东公立医科大学、国立广东法科学院、广东省立勷勤大学工学院先后并入。
1926年3月，郭沫若就任文科学长，郁达夫任英国文学系主任。
1926年7月17日正式更名为“国立中山大学”，成为广东最高学府。
1926年8月17日，国民政府下令改校名为国立中山大学。国立广东大学改名后，国内出现多所以“中山”为名的大学，如武汉、杭州、南京、上海、兰州、西安等地。1928年2月间，以蔡元培先生为院长的大学院有鉴于此，决定除保留广州的国立中山大学以资纪念外，其余中山大学均改为所在地方名。
1927年1月，鲁迅从厦门大学被聘至中大任文学系主任兼教务主任。8月，更名为“国立第一中山大学”。
1928年3月，复名为“国立中山大学”。
1931年，改文、法、理、农、医科为学院。先设立土木工程、机械工程、电机工程、化学工程四系，校址暂定于文明路，第二年迁往石牌新校址（即华南理工大学和华南农业大学校址内）。
1935年，设立研究院，开始招收研究生，成为当时全国仅有的三所之一（是中国第一批成立“研究院”的三所高等院校之一）。1938年，设师范学院，理工学院增设建筑工程系。同年10月受到抗日战争的影响迁至云南澄江，1940年迁回粤北坪石。
1945年1月，中大被迫进行抗战以来第三次迁校。坪石校本部师生先后撤往乐昌、仁化。据《国立中山大学滞留仁化员生概况》记载，由于仁化亦处于抗战前线，学校不久又择定校本部和研究院在龙川，师范学院在龙川龙母圩，理学院和工学院在兴宁东坝朱屋，农学院在五华歧岭，法学院在蕉岭路亭，文学院、医学院和先修班在梅县县城。后来，校本部、研究院、理学院紧急疏散到梅县。 [3-5]
1945年，迁回广州石牌等原址复课，1947年设置体育系，袁浚从武汉大学被聘至中大任体育系主任。
1952年开始，全国高等学校进行大规模院系调整，中山大学工学院、农学院、医学院、教育学院调出，组建华南工学院（现华南理工大学）、华南农学院（现华南农业大学）、华南医学院（中山医科大学）、华南师范学院（现华南师范大学）；中山大学天文系由赵却民教授率领调往南京大学；中山大学地质系主任陈国达教授率领全系师生49人调去湖南中南矿冶学院（现中南大学）；澳门毕业证办理中山大学哲学系由系主任朱谦之教授率领前往北京大学；中山大学人类学系由人类学系主任杨成志教授率领调往北京中央民族学院。分别于1952年10月16、17、20日前往南京、长沙、北京等地报到。
1952年全国院系调整后，原中山大学文理院系与岭南大学文理院系合并，组成新的中山大学。新组建的中山大学由石牌迁入原岭南大学校址康乐园。中山大学原石牌校址，迁入了新组建的华南工学院、华南农学院等学校。中山大学原百子岗校址，兴办华南医学院。
1952年11月25日，调整后的新的中山大学举行开学典礼。首次调整后的新中山大学，设有中文、外文、历史、语言、数学、物理、化学、生物、地理、财政、金融、会计、贸易、企业管理、政治、法律、社会、经济等18个系， 另有俄文、会计、金融、企业管理4个专修科，中国语言文学、历史、植物等3个研究所。
1953年7月开始第二次院系调整。
中山大学的财经、政法各系分别调至武汉大学、中南财经学院、中南政法学院等院校。办理澳门毕业证同时对图书、仪器、设备等进行了调配。中山大学图书馆原藏有前华南联合大学及广东法商学院所藏财经政法图书资料，全部调配给中南财经学院、中南政法学院。
1954年，将全国惟一的语言系由中山大学调整到北京大学，语言系主任王力教授带领全系师生48人整体迁出。中山大学植物研究所（现华南植物园）划归中国科学院管理。同时将原武汉大学、湖南大学、广西大学、南昌大学、华中师范学院、广东省立法商学院等院校部分有关科系师生调至中山大学。
