1976年9月13日，毛主席遗体领导小组办公室成立的当天，即电话通知了北京、天津、上海、广东、江苏、陕西、辽宁、黑龙江等8个省市10个单位，要求选派最有声望的建筑师、设计师、美术师和工人代表共40余人前来北京，负责陵墓的选址和设计工作。

选址工作刚开始，便众说纷纭，提出不同的方案。

当时选来的是一批最优秀的建筑专家（国家建委建筑科学院5人，北京市规划局和建筑设计院各6人，清华大学4人，上海4人，天津、辽宁、广东、广西、黑龙江、一机部各3人），他们汇聚到北京后，立即成立了选址设计小组，并于9月14日投入到了紧张工作之中。

在近两个月的选址工作中，专家们走访了北京的有关地方，察勘了多处名胜古迹所在地，先后对香山、景山、北海、中南海、天安门广场及其北部一带等十几个地点作了重点调查研究，并先后提出了各种方案和设想。

选址设计组的专家们，首先想到的是毛泽东南征北战、辛勤操劳一生，理应在风景秀丽、环境优美的地方建造陵墓，让他老人家能够安眠静息。为此，他们设计出“水上日出”方案：浩浩碧波，霞光绚丽，一轮红日，跃出水面，光焰万丈。为此，专家们来到中南海、北海、昆明湖……走了一水又一水，寻找着合适的水域。

中南海是毛泽东长期居住过的地方，又是新中国成立之后，中共中央和国务院的办公地点。中南海里一泓碧水，微波荡漾，岸柳成行，绿草如茵，亭台廊榭，风景秀丽。有人主张将主席陵墓建在瀛台小岛上，然而中南海是全国最高领导中心和国际友好交往的重要活动场所，陵墓建在这里会有每日数万人前来瞻仰，势必会影响到此处的党务和国务活动。再者，瀛台是当年慈禧太后囚禁光绪皇帝的地方，将毛主席陵墓建在此处也不合适。

北海、颐和园虽然不是中央办公地点，但公园毕竟是人民假日休憩、游玩放松的地方，在此修建陵墓与整个环境和气氛显然不符。

有的专家提出了“山顶红星”方案，并为此又去攀香山、景山、玉泉山，走过了一山又一山。

香山方案曾一度被看好。中共中央于1949年3月由河北省平山县迁至北京后，香山曾是毛泽东居住过的地方，直至同年秋天才迁往中南海。毛主席在香山虽然只住过短短几个月，却在这里指挥了震惊中外的渡江作战，商讨和确定了建国大计，拟定和发表了《南京政府向何处去》、《向全国进军的命令》、《丢掉幻想，准备斗争》、《论人民民主专政》等一系列纲领性文献。