1925年3月12日上午9时30分，孙中山的心脏停止了跳动。三月中旬，本应是春暖花开的季节，但天却突降飞雪，上苍似乎也为伟人的去世而悲哀。
营建中山陵
孙中山生前曾经表示，希望去世后能够葬在南京。那是1912年4月1日，孙中山辞去临时大总统职务，向参议院行辞任礼。当天，他在卫士陪同下到南京郊区的紫金山打猎。在南山临时休息的时候，孙中山环望四周，见天高云低，山青水碧，松柏繁茂，景色宜人，不禁赞道：这可真是一个好地方，我死后如果能葬在这里就好了。如今一代伟人终于辞世，国民党决定遵照他的遗愿，将南京紫金山选为墓地。由于陵园建设不是能够马上完成的事情，因此治丧处决定将孙中山的遗体暂厝北京西山碧云寺金刚宝座塔的石龛内，待南京陵园建成后再正式安葬。
孙中山的灵柩暂时安放于碧云寺后的第三天，也就是1925年4月4日，由在京的国民党中央执行委员推举12人组成孙中山葬事筹备委员会。4月18日，在上海成立负责具体工作的葬事筹备处。根据孙中山的遗愿，墓地自然应在南京紫金山。宋庆龄与孙科在筹备委员陪同下对紫金山多次进行实地踏勘，最终选定中茅山南坡作为墓址。
5月15日，葬事筹备委员会通过媒体公布了《陵墓建筑悬奖征求图案条例》，同时明确提出，陵墓的建筑应遵循简朴、庄严、坚固的基本原则，避免奢侈华贵，整体建筑预算费用以30万元为限。
在三个月的时间里，一共收到四十多份应征图案，从9月22日至26日，所有应征图案均在大洲公司三楼公开展览，葬事筹备委员会还在上海各大报纸刊登广告，欢迎各界人士参观评点。这是中国建筑界空前的大事，一时人流如潮，平均每天的参观者均在千人左右。
9月27日，葬事筹备委员会再次召开联席会议，最终认为，头奖吕彦直的设计“简朴典雅，且完全根据中国古代建筑精神”，从而一致决定采用他的方案，并聘请其为建筑师，主持计划建设详图及监工事务。此后，吕彦直立即赴南京进行实地考察，并赶在两个月的时间内绘制完成全部工程详图，以作为招标施工的依据。
按照最初的设想，中山陵应在奠基后一年内完工，于1927年3月12日孙中山逝世两周年之际安葬遗体。但由于工程的艰难程度远远超出当初所料，再加受战乱影响，中山陵的工程进展缓慢。从1926年1月15日开工，直到1929年春天才大致完成。而孙中山遗体移灵的时间，则是一再更改。